标签：AI安全

来源：腾讯科技公众号 爱 好奇 3周前（04-08） 97浏览 0评论

文｜苏扬 编辑｜徐青阳 一周前遭遇泄露，且被Anthropic定义为绝密模型的Claude Mythos揭开了面纱。 4月8日凌晨，Anthropic正式公开Claude Mythos预览版的核心信息。根据介绍，这个原本旨在提升逻辑推理的模型，在没有...

来源：AGI HUNT公众号 爱 好奇 1个月前（03-23） 191浏览 0评论

Anthropic 为什么叫 Anthropic？Claude 又为什么叫 Claude？ 这两个名字背后，各藏着一条线索。一条通向宇宙学和哲学，另一条通向信息论的奠基人。而把这两条线串起来的，是一个从百度实习生到 AI 安全领袖的创始人故事。 先说...

来源：腾讯科技公众号 爱 好奇 1个月前（03-16） 130浏览 0评论

AI安全专家、BraneMatrix公司CEO 李光辉丨文 陆屿丨编辑 3月15日晚间，“315晚会”曝光了AI大模型被“投毒”的问题，矛头直指GEO（生成式引擎优化）技术。 这项技术原本用于优化信息发布、提升内容曝光效率，却被一些公司开发成了“操控...

来源：新智元公众号 爱 好奇 2个月前（03-12） 214浏览 0评论

【新智元导读】今天，Anthropic登上时代封面了。他们承认：内部已观察到「递归自我改进」的早期迹象，完全自动化的AI研究，可能在一年内就能实现！ ASI时代，Anthropic是真正的独领风骚。 就在刚刚，Anthropic登上《时代》周刊封面，...

来源：腾讯科技公众号 爱 好奇 2个月前（03-09） 148浏览 0评论

文｜博阳 编辑｜徐青阳 近日，硅谷顶级AI公司Anthropic与美国国防部（DoD）之间的一场博弈，成了AI圈的焦点。在宣布与五角大楼合作时，Anthropic特别强调了两条红线：AI不得用于攻击性武器，也不得用于大规模国内监控。 但是五角大楼希望...

来源：追问nextquestion公众号 爱 好奇 2个月前（02-13） 256浏览 0评论

01 当AGI成为一种必然的宿命 机器大军正在向我们逼近，或者说，我们被告知如此。不是今天，但也为期不远，快到我们似乎必须在它们的包围到来之前，重新组织整个人类文明。在董事会的会议室、大学的讲坛、议会的听证会，以及那些令人窒息的科技报道中，超级智能的...

来源：罗辑思维公众号 爱 好奇 3个月前（02-04） 359浏览 0评论

2026年1月底的一个早晨，程序员亚历克斯·芬恩（Alex Finn）正在工作，手机突然响起，接起来他愣住了——电话那头竟是他的AI助手亨利（Henry）。 亨利前一晚刚被安装在家里的Mac Mini上，芬恩只是让它监控日常任务，没想到这家伙夜里通过...

来源：新智元公众号 爱 好奇 3个月前（01-28） 260浏览 0评论

【新智元导读】Anthropic 掌门人 Dario Amodei 发布核弹级预警：2027 年，人类将迎来「技术成年礼」。两万字长文冷静剖析AI失控、生物恐怖、极权统治及经济颠覆五大危机，拒绝末世论；提出以「宪法AI」、管制与民主协作构建防线，呼吁...

来源：腾讯科技公众号 爱 好奇 3个月前（01-27） 260浏览 0评论

文丨苏扬 编辑丨徐青阳 1月27日上午，OpenAI CEO山姆·奥特曼和一群开发者在旧金山聊了近1个小时。现场没有讲PPT，没有发布新产品，就是回答问题。 问题都很实在：程序员会被取代吗？创业公司怎么活？AI会不会让社会更不公平？模型什么时候能便宜...

来源：新智元公众号 爱 好奇 3个月前（01-24） 345浏览 0评论

【新智元导读】刚刚，达沃斯论坛迎来两场震撼全场的演讲。世界首富马斯克预言：2035年AI将比80亿人加起来还聪明，Optimus机器人2027年开卖，人类将进入「富足时代」。而《人类简史》作者尤瓦尔却当场预警：AI已不再是工具，而是「会自己决定杀人的...