OpenAI高薪招募清静专家 应对AI自我进化危害 —— 该公司也希望将自身的研究事情自动化。。。。。CEO Sam Altman去年10月体现，，，，公司目的是在今年9月之前，，，，让一个“自动化AI研究实习生”运行在数十万块芯片上 ；；；；并在2028年3月之前，，，，实现一个“真正的自动化AI研究员”。。。。。
“我们完全可能在这个目的上失败，，，，”Altman在X上写道，，，，“但思量到其潜在影响极其重大，，，，我们以为，，，，果真透明地讨论这件事切合公共利益。。。。。
”今年5月，，，，Anthropic联合首创人兼政策主管Jack Clark体现，，，，他以为到2028年底，，，，实现“没有人类加入的AI研发”的概率约莫为60%。。。。。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。。。。岗位年薪总包为25万至38万欧元，，，，招聘工具是“有履历的手艺专家，，，，以支持针对递归式自我刷新的准备事情”。。。。。
最近，，，，像OpenAI和Anthropic这样的实验室，，，，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。。。。
研究模子能力的实验室METR的研究职员在今年3月写道：AI模子能够完成的使命长度，，，，约莫每七个月翻一倍——这些模子正越来越能够肩负那些原本需要人类破费大宗时间完成的事情。。。。。
若是AI模子能够自行训练自己，，，，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制，，，，并造成普遍危险——这正是AI清静运动恒久担心的问题。。。。。
招聘信息提到，，，，这名研究员可能会专注于 ；；；；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。。。。
OpenAI的Preparedness团队，，，，其职责是避免AI造成严重危害。。。。。该团队的其他岗位还包括：自动化红队测试，，，，用于评估网络清静、生物与化学危害，，，，以及“署理型AI”带来的威胁。。。。。
在已往六个月里，，，，OpenAI和Anthropic的编程工具取得了重大前进之后，，，，AI系统所谓“递归式自我刷新”的潜力，，，，已经成为AI行业认真人关注的重点。。。。。
Demis Hassabis本周体现，，，，人类现在正站在“奇点”的脚下——也就是AI最先自我生长，，，，并逾越人类智能的谁人时刻。。。。。妄想于今年上市的OpenAI，，，，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员，，，，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。。。。
热门讨论?
元老：IBM获得美国政府资金支持 将投入20亿美元用于量子盘算芯片项目|IBM股价周四盘中最高上涨10%。。。。。其他获得资助的公司股价也大幅走高。。。。？？？？？⒘孔优趟阕ㄓ眯酒陌氲继迤笠礕lobalFoundries一度上涨14% ；；；；D-Wave Quantum上涨29%，，，，Rigetti Computing上涨28%，，，，Infleqtion最高飙升44%。。。。。|各国政府正纷纷为量子盘算提供融资。。。。。这项尚处早期阶段的手艺被研究职员以为有望在药物研发、盘算加密标准等多个领域带来全新能力。。。。。只管现在量子盘算机主要仍用于科研，，，，但潜在能力若是获得施展，，，，可能威胁国家清静，，，，例如破解 ；；；；ひ泻驼府数据的系统。。。。。|除IBM外，，，，美国政府还向六家以上公司提供资金支持。。。。。GlobalFoundries体现，，，，公司将获得3.75亿美元资助。。。。。D-Wave、Rigetti、Infleqtion和PsiQuantum划分体现，，，，已与美国商务部签署意向书，，，，每家公司最高可获得1亿美元资金。。。。。其他获得1亿美元资助的企业还包括Atom Computing和Quantinuum，，，，首创公司Diraq将获得3800万美元。。。。。|这些协议尚未最终敲定，，，，属于美国商务部总额20亿美元的量子盘算支持妄想的一部分。。。。。凭证商务部周四声明，，，，作为交流，，，，美国政府将获得这些公司少数、非控股股权。。。。。 (?230)
照料：欧洲央行约谈各大银行，，，，催促其修补最新人工智能模子袒露出的误差|欧洲央行着重强调，，，，Anthropic的Claude Mythos现行版等人工智能模子，，，，已袒露出金融系统面临严肃威胁。。。。。同时央行呼吁，，，，率先应用这类前沿手艺的美国银行，，，，向无缘使用该模子的欧洲同业共享相关信息。。。。。|欧洲央行银行羁系委员会副主席弗兰克?埃尔德松接受媒体采访时体现：“多年来我们始终与银行探讨种种网络清静问题，，，，相关隐患依旧保存。。。。。现在人工智能手艺飞速迭代，，，，问题处置惩罚必需提速。。。。。”|他打例如称：“以往闲步推进尚可接受，，，，现在必需提速加急。。。。。我们将听取银行评估意见，，，，搭建履历交流渠道，，，，着重凸显该项危害的主要性。。。。。”|此次紧迫聚会，，，，凸显全球羁系机构正加紧应对Mythos等高端人工智能模子带来的危害。。。。。这类模子能够挖掘银行信息系统误差，，，，对全球银行系统组成潜在威胁。。。。。|欧洲银行及羁系机构对此危害尤为担心，，，，现在它们无法获取该模子使用权限。。。。。Anthropic仅向少数机构开放测试资格，，，，使用者大多为美国本土企业，，，，相关测试归属于其 “Project Glasswing”。。。。。|Anthropic上月体现，，，，Mythos已检测出数千个高危误差，，，，主流操作系统与网页浏览器均保存相关问题，，，，并警示该隐患会对经济、公共清静及国家清静造成严重负面影响。。。。。|欧洲央行认真羁系欧元区约 111 家大型银行，，，，摩根大通等华尔街大行的欧洲分支机构也在羁系规模内，，，，且这些机构已获准使用该模子。。。。。|全球众多机构纷纷申请获取模子使用权限或相关手艺转达。。。。。Anthropic已赞成为部分境外机构开展高阶情形说明，，，，其中涵盖二十国集团财长与央行官员组成的金融稳固委员会、欧盟委员会等。。。。。 (?562)
声誉会员：5月22日隔夜要闻：美股收高道指创收盘历史新高 油价三连跌 生意员亲近关注美伊谈判希望|拉夫劳伦预计2027财年营收增添4%-5%，，，，营业利润率有望再扩40-60个基点Computer Modelling Group第四序度业绩：盈利增添17%，，，，总收入持平 (?197)