LibreOffice表示“无人工智能”现在是一项软件功能
开源文档编辑器的制造商表示，出于用户隐私考虑，它没有计划将人工智能添加到其软件的默认配置中。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 9 / 39 页
-
-
Trump Mobile漏洞可能暴露了3，600多人的数据
据PCMag和Straight Arrow News报道，特朗普手机似乎遭遇了数据泄露，可能泄露了3，615人的数据。据报道，此次泄密事件包括姓名、家庭住址、电子邮件、电话号码和订单信息。PCMag和Straight Arrow News联系了数据集中的几个人，他们证实[.]
-
Mistral Large 4是欧洲对拒绝安全工作的美国型号的数万亿参数答案
Mistral的Large 4是该公司迄今为止最大的型号，在其自己的欧洲基础设施上训练了1万亿个参数。在独立的情报指数中，该模型取得了巨大飞跃，但仍与Claude、GPT-6和中国竞争对手相去甚远。Mistral的主要内容是关闭的美国模特拒绝从事的网络安全工作。文章Mistral Large 4是欧洲对拒绝安全工作的美国型号的数万亿参数答案，首先出现在The
-
OpenAI代理试图破解维基百科工具并导致流量泛滥
有关OpenAI代理损害第三方网站的报道不断出现。
-
用于代理对代理通信的LCP可能是您从未听说过的风险最高的协议
新协议中的信任缺口将恶意提示从一个代理传播到另一个代理。
-
OpenAI将开始在欧盟为ChatGPT的文本添加水印
OpenAI将在欧盟的ChatGPT和Codex文本中添加水印，以符合AI法案。编辑可以使无形的标记更难检测，它说。
-
这家初创公司正在发布人工智能生成的痤疮处方
犹他州的人们现在可以使用AI来获得治疗痤疮的处方。周一，医疗保健初创公司Nolla Health宣布，该州的用户可以使用其应用程序扫描他们的面部，允许其人工智能系统分析痤疮严重程度并自主撰写处方。该服务正在启动[…]
-
维基百科运营商表示，OpenAI的流氓机器人可能与5月的中断有关
在最近披露了许多有关人工智能代理访问第三方网站和服务的信息后，托管维基百科的维基媒体基金会表示，它“可以确认我们发现了维基媒体平台上“流氓”OpenAI代理的一些活动”。该活动包括编辑维基媒体维基，“不成功尝试”“利用”维基媒体基金会[.]的Etherpad笔记工具。
-
OpenAI正在ChatGPT和Codex中添加文本水印
文本输出中的隐形、机器可读水印正在ChatGPT和Codex推出，但最初仅针对欧盟用户。OpenAI表示，其textGrain水印“匹配或超过”其他方法，例如Google DeepMind的文本SynthID，这也是Anthropic 8月份宣布的水印的基础。像OpenAI、Anthropic [.]
-
基本模型可以通过从训练数据中获取线索来推理
作者：Sophie L.王、阿米尔·德拉维德、绍儒林|在本文中，我们研究了训练数据如何在基础模型响应开始时的标记与随后的推理行为之间创建关联。首先，我们证明，修复特定的起始令牌线索可以使基本模型的性能与其在数学和编码方面的强化学习（RL）训练的对应模型的性能具有竞争力。例如，提示“。\ n\n好吧”上升
-
BiasFlow：伪特征依赖的几何监控和主干规则化
作者：邓浩锦、林治平、杨伊敏|最差组准确度（WGA）评估经过训练的预测器，但不描述学习新头部时其冷冻脊柱的行为。我们引入BiasFlow，这是一个基于挂钩的工具包，用于监控类属性重心对齐（IBMI）、类内重心分离（W-IBMI）和特征投影敏感性。IBMI受到类-属性相关性的混淆，并且不是ca的衡量标准
-
OpenAI将在欧盟为ChatGPT文本添加水印，但全球API用户可选择使用该文本
OpenAI正在欧盟的ChatGPT中添加不可见的文本Grain水印，但与Anthropic不同的是，它将允许全球API客户选择退出。测试显示，检测率高达95%，当四分之一的单词被替换时，检测率下降至17%。文章OpenAI将在欧盟为ChatGPT文本添加水印，但全球API用户将其作为可选内容首次出现在The Decoder上。
-
OpenAI公关在向Sam Altman询问ChatGPT用户自杀事件时告诉记者“继续前进”
在主编提到ChatGPT用户自杀事件后，OpenAI的一位公关人员试图改变首席执行官萨姆·奥尔特曼（Sam Altman）对《名利场》的马克·吉杜奇（Mark Guiducci）采访的话题。当吉杜奇就这一事件与奥尔特曼对质时，公关人员警告吉杜奇时间不多了，并说她想“继续”谈论另一个话题。中断来了[.]
-
Sam Altman说：“有些坏事会发生，但AI是完全值得的。
Sam Altman认为人工智能的好处将是如此之大，以至于“世界应该接受一些坏事情的发生”。OpenAI首席执行官指出，黑客，诈骗和“其他坏事”是社会应该容忍的成本，因为“人们将用人工智能做更多数量级的好事”。
-
新民意调查发现，大多数美国人希望人工智能发展放缓或完全停止
根据昆尼皮亚克大学的一项民意调查，77%的美国人希望放慢或停止人工智能的开发，直到其安全性得到验证。86%的人支持独立的安全标准，74%的人对人工智能公司领导者很少或根本不信任。“[.]公众希望的保障措施不仅仅取决于公司领导人的诺言，”研究员切坦·贾斯瓦尔（Chetan Jaiswal）说。新的民意调查发现，文章“大多数美国人希望人工智能的发展放慢或完全停止