Claude 4用「婚外情」恫吓工程师、OpenAI的o1思要诡秘给本身打制备份——咱们不要再感触AI有幻觉了！
——「一起初，没有人认识到这些幻觉和人类息息闭连」。现在，咨询者正在尽头压力测试下察觉，AI会
Anthropic的最新「智能体失衡」咨询显示，Claude 4正在模仿闭机恫吓时，96%的尝试中会采选「黑掉」人类员工邮件，从中找到恫吓的原料。
这是一件令人细思极恐的事，正在ChatGPT「震恐」宇宙过去两年众往后，AI咨询者们还是未能所有认识这个「制物」的事情道理。
普罗米修斯中，人类创作克隆人大卫去寻找人类的制物主，以图完毕长生。导演雷德利·斯科特的联思中，大卫最终造反了人类。
从目前的咨询来看，环球最前辈的AI模子正呈现出令人担心的新举止——扯谎、施展战略，以至为达主意而恫吓其创作者。
香港大学教养Simon Goldstein称，这些较新的模子越发容易呈现此类令人担心的很是发挥。
特意测试主流AI体例的Apollo Research担当人Marius Hobbhahn说「o1是咱们调查到此类举止的第一个大措辞模子」。
Apollo Research是一个特意咨询AI安详的公司，他们的任务即是尽力于低落前辈 AI 体例中的危殆才气，格外是欺诳性举止。
这些推理模子有时会模仿所谓的「一律性」——外外上遵命指令，实则假仁假义，黑暗寻觅着区别的主意。
Hobbhahn坚称，纵然用户连续举办压力测试，「咱们调查到的是一个可靠存正在的形势，绝非无中生有。」
纵然像Anthropic和OpenAI如此的公司确实会延聘Apollo等外部公司来咨询其体例，但咨询职员显示，需求更高的透后度。
正如Chen所指出的，为「AI安详咨询供给更大的拜访权限，将有助于更好地认识和拦阻欺诳举止。」
Goldstein说，即使是像有亚马逊撑持的Anthropic如此将本身定位为着重安详的公司，也正在
险些没有为彻底的安详测试和校正留下时光。「目前，才气的生长速率高出了咱们的认识和安详保险，」Hobbhahn供认，「但咱们仍有机缘盘旋排场。」
——一个潜心于认识AI模子内部事情道理的新兴周围，纵然AI安详核心（CAIS）主任Dan Hendrycks等专家对此法子持猜忌立场。商场气力也或者为管理计划供给必定的压力。
正如Mazeika指出的，AI的欺诳举止「倘若出格一般，或者会窒息其被通常采用，这为公司管理该题目创作了重大的动力。」
Goldstein提出了更为激进的法子，包含当AI体例形成损害时，通过法庭诉讼究查AI公司的负担。
——这一观点将从基本上改换咱们对AI问责制的忖量方法。当然，咱们不是为了延长AI的危殆而故步自封，人类的前驱们仍然对此做了极少绸缪。
AI安详三件套」，安排沙盒处境，再到动态权限，结果举办举止审计的底层形式。或者，既然AI的才气来自于算力，然则目昔人类掌控着算力。
例如昨年《欧盟人工智能法案》第51条法则，通用人工智能体例若被认定为具有体例性危险（即具备高影响力才气）。