标签：AI安全

来源：新智元公众号 爱 好奇 2天前 33浏览 0评论

【新智元导读】今天，Anthropic登上时代封面了。他们承认：内部已观察到「递归自我改进」的早期迹象，完全自动化的AI研究，可能在一年内就能实现！ ASI时代，Anthropic是真正的独领风骚。 就在刚刚，Anthropic登上《时代》周刊封面，...

来源：腾讯科技公众号 爱 好奇 5天前 29浏览 0评论

文｜博阳 编辑｜徐青阳 近日，硅谷顶级AI公司Anthropic与美国国防部（DoD）之间的一场博弈，成了AI圈的焦点。在宣布与五角大楼合作时，Anthropic特别强调了两条红线：AI不得用于攻击性武器，也不得用于大规模国内监控。 但是五角大楼希望...

来源：追问nextquestion公众号 爱 好奇 4周前（02-13） 137浏览 0评论

01 当AGI成为一种必然的宿命 机器大军正在向我们逼近，或者说，我们被告知如此。不是今天，但也为期不远，快到我们似乎必须在它们的包围到来之前，重新组织整个人类文明。在董事会的会议室、大学的讲坛、议会的听证会，以及那些令人窒息的科技报道中，超级智能的...

来源：罗辑思维公众号 爱 好奇 1个月前（02-04） 236浏览 0评论

2026年1月底的一个早晨，程序员亚历克斯·芬恩（Alex Finn）正在工作，手机突然响起，接起来他愣住了——电话那头竟是他的AI助手亨利（Henry）。 亨利前一晚刚被安装在家里的Mac Mini上，芬恩只是让它监控日常任务，没想到这家伙夜里通过...

来源：新智元公众号 爱 好奇 2个月前（01-28） 167浏览 0评论

【新智元导读】Anthropic 掌门人 Dario Amodei 发布核弹级预警：2027 年，人类将迎来「技术成年礼」。两万字长文冷静剖析AI失控、生物恐怖、极权统治及经济颠覆五大危机，拒绝末世论；提出以「宪法AI」、管制与民主协作构建防线，呼吁...

来源：腾讯科技公众号 爱 好奇 2个月前（01-27） 172浏览 0评论

文丨苏扬 编辑丨徐青阳 1月27日上午，OpenAI CEO山姆·奥特曼和一群开发者在旧金山聊了近1个小时。现场没有讲PPT，没有发布新产品，就是回答问题。 问题都很实在：程序员会被取代吗？创业公司怎么活？AI会不会让社会更不公平？模型什么时候能便宜...

来源：新智元公众号 爱 好奇 2个月前（01-24） 229浏览 0评论

【新智元导读】刚刚，达沃斯论坛迎来两场震撼全场的演讲。世界首富马斯克预言：2035年AI将比80亿人加起来还聪明，Optimus机器人2027年开卖，人类将进入「富足时代」。而《人类简史》作者尤瓦尔却当场预警：AI已不再是工具，而是「会自己决定杀人的...