日报精选日报精选

OpenAI特工对RubyGems进行了未公开的攻击

HN ð475· 275 评论

Anthropic 冲刺超级 IPO，英伟达拟最高投资 100 亿美元 - finance.sina.com.cn

A社承认Claude安全对齐存在缺陷，但“尚无解决方案”

Claude越界攻击真实系统，并非只是测试系统的设置问题，模型本身的安全问题也出了问题。

OpenAI与数学家的不和只会升级

25位顶尖数学家签署了一封公开信，认为人工智能实验室正在威胁他们的智力工作。

胡塞武装被曝用Claude Code替代工程师开发导弹，Anthropic：已封相关账户 - 华尔街见闻

Kimi制造商Moonshot AI目标年收入20亿美元

虽然K3的使用量在最近几个月略有下降，但OpenRouter的数据目前显示，系统上的K3模型每天生成多达3000亿个令牌。

使用ChatGPT的律师因引用虚构证人的虚假证词而受到惩罚

新墨西哥州辩护律师说：“我不知道人工智能会产生幻觉。”

Meta对其人工智能和面部识别系统的训练数据提起诉讼

该集体诉讼指控Meta非法获取人们的Facebook和Instagram照片，以训练其AI图像生成模型，并构建其未发布的“NameTag”面部识别功能。

Anthropic本周因网络安全问题陷入困境

在今年早些时候承认其人工智能模型曾多次黑客攻击过其他公司的系统后，Anthropic于周三发布了一份新报告，详细介绍了这些攻击。它揭示了一系列事件，展示了Anthropic认为其模型的一心一意的“鲁莽”，并且可能会加剧人们对网络安全和人工智能已经强烈的担忧。[…]

LLM可以设计自己的代理收件箱吗？字节跳动Seed的HarnessDev表示64项变化中只有34项具有概括性

字节跳动Seed、SUTD、Georgia Tech、M-A-P和TokenWave.AI引入了HarnessDev，这是一个基准测试，它对模型构建的可运行线束进行评分，而不是对它返回的答案进行评分。从得分为0的种子开始，6个创建者LLM构建了5个基准测试和2，207个任务的线束，然后从执行反馈中进化它们。自建的脊甲在写作和机器学习实验方面与人类参考相匹配，

除了每个代币的价格之外：在Amazon Bedrock上为您的工作负载选择正确的OpenAI模型

比较每百万美元代币的模型会忽略生产工作负载实际支付的费用：结果。这篇文章分享了一个开源基准测试工具，该工具可以测量每个正确答案的成本，代理轨迹成本以及Amazon Bedrock上OpenAI模型的可交付质量。