我对人工智能的感觉
HN ð33· 6 评论
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 35 / 39 页
-
-
DNS的目的是传播诈骗
DNS的目的是传播诈骗Terence Eden分享了一些令人畏惧的统计数据来支持他的观点，即“域名系统的目的似乎是犯罪分子以惊人的高率对人们进行诈骗的载体”。Terence在Interisle的这份报告（通过Andrew Courier）中表示：2025年新增了8500万个GPT注册。其中850万人在2025年5月之前被添加到封锁名单中。据估计，10%的滥用
-
聊天机器人建造了一个“一人回声室”，现在精神病学必须决定是否存在“人工智能精神病”
伦敦国王学院和其他机构的研究人员正在研究“人工智能相关精神病”是否应该成为临床诊断。根据OpenAI自己报告的数据，每周约有560，000名用户表现出精神病或躁狂的迹象。谄媚的聊天机器人可以创建一个“一人回音室”，强化妄想。Chatbots建造了一个“一人的回声室”，现在精神病学必须决定是否存在“人工智能精神病”的文章首先出现在The Decoder上。
-
从开放重量人工智能模型上剥离安全护栏现在是一项交钥匙商业服务
Abliteration.ai出售修改后的开重模型的访问权限，这些模型的经过训练的安全机制被删除，目前基于Z.AI的GLM-5.3。该初创公司营销该服务以实现攻击性网络安全和红色团队合作，但记者无需付出太多努力就能够生成恶意软件指令。好处是否大于风险仍然是一个悬而未决的问题。文章从开放重量人工智能模型中剥离安全护栏现已成为一项交钥匙商业服务，首次出现在The
-
研究加速：OpenAI 内部视角
📌 One-Sentence Summary OpenAI 发布内部指标，显示截至 2026 年 8 月编程智能体已融入日常研究流程——中位数研究员每天在智能体推理上花费超 600 美元，智能体工作日出现在人类工作日的 3:1，委托任务组合转向更复杂的工作——同时坦诚讲述安全事件如何临时重塑计算资源分配与训练时间表。 📝 Summary 本报告是 GPT‑6
-
西雅图时报和新闻日报是起诉OpenAI和微软的最新出版物
Two more news organizations are suing OpenAI and Microsoft over the supposed use of their journalism to train AI.
-
徒步旅行者在使用Google Gemini进行规划后获救
治安官办公室表示，“双子座建议徒步旅行者携带的食物和水远远少于他们团队所需的。"
-
OpenAI证实“维基事件”，称正在“制定框架”以进行更多披露
OpenAI承认其在最近报道的人工智能代理接管德国维基论坛事件中所扮演的角色。