OpenAI高薪招募清静专家 应对AI自我进化危害 —— 最近，，，， ，，像OpenAI和Anthropic这样的实验室，，，， ，，其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。。
研究模子能力的实验室METR的研究职员在今年3月写道：AI模子能够完成的使命长度，，，， ，，约莫每七个月翻一倍——这些模子正越来越能够肩负那些原本需要人类破费大宗时间完成的事情。。。
该公司也希望将自身的研究事情自动化。。。CEO Sam Altman去年10月体现，，，， ，，公司目的是在今年9月之前，，，， ，，让一个“自动化AI研究实习生”运行在数十万块芯片上；；并在2028年3月之前，，，， ，，实现一个“真正的自动化AI研究员”。。。
“我们完全可能在这个目的上失败，，，， ，，”Altman在X上写道，，，， ，，“但思量到其潜在影响极其重大，，，， ，，我们以为，，，， ，，果真透明地讨论这件事切合公共利益。。。
”妄想于今年上市的OpenAI，，，， ，，最近宣布了一个差别寻常的招聘岗位：公司正在寻找一名清静研究员，，，， ，，专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。。岗位年薪总包为25万至38万欧元，，，， ，，招聘工具是“有履历的手艺专家，，，， ，，以支持针对递归式自我刷新的准备事情”。。。
在已往六个月里，，，， ，，OpenAI和Anthropic的编程工具取得了重大前进之后，，，， ，，AI系统所谓“递归式自我刷新”的潜力，，，， ，，已经成为AI行业认真人关注的重点。。。
Demis Hassabis本周体现，，，， ，，人类现在正站在“奇点”的脚下——也就是AI最先自我生长，，，， ，，并逾越人类智能的谁人时刻。。。招聘信息提到，，，， ，，这名研究员可能会专注于保；penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。。
OpenAI的Preparedness团队，，，， ，，其职责是避免AI造成严重危害。。。该团队的其他岗位还包括：自动化红队测试，，，， ，，用于评估网络清静、生物与化学危害，，，， ，，以及“署理型AI”带来的威胁。。。
今年5月，，，， ，，Anthropic联合首创人兼政策主管Jack Clark体现，，，， ，，他以为到2028年底，，，， ，，实现“没有人类加入的AI研发”的概率约莫为60%。。。
若是AI模子能够自行训练自己，，，， ，，那么一种科幻式反乌托邦场景就可能泛起：它们的能力迅速增添、脱离控制，，，， ，，并造成普遍危险——这正是AI清静运动恒久担心的问题。。。
热门讨论?
小白鼠：市场剖析： 日本股市尝到了SpaceX和OpenAI带来的狂热滋味|周四日经225指数角逐韩国综合指数领涨职位，，，， ，，软银早盘大涨近20%，，，， ，，发动日本股市走强。。。孙正义旗下软银重仓结构即将启动IPO的OpenAI，，，， ，，加之SpaceX估值有望抵达2万亿美元，，，， ，，相关赛道热度飙升，，，， ，，大幅提振投资者投资意愿。。。与此同时，，，， ，，外资已一连第七周净买入日本股票，，，， ，，一连涌入结构。。。即便云云，，，， ，，软银股价仍未重回五月初高点，，，， ，，一旦突破该价位，，，， ，，势必进一步点燃趋势生意资金的做多情绪。。。 (?955)
导演：日韩股市开盘涨跌纷歧 韩股下跌1.2%|日经225指数开盘上涨0.6%，，，， ，，报61202.84点，，，， ，，金融股领涨。。。韩国综合股价指数（KOSPI）开盘下跌1.2%，，，， ，，至7425.66点。。。 (?201)
后勤照料：全球恒久主权债收益率创近20年最高水平 战略师忠言债券跌势仍未见底|随着伊朗冲突导致霍尔木兹海峡航运受阻，，，， ，，原油价钱一起走高，，，， ，，加剧了通胀担心。。。彭博体例的一项指标显示，，，， ，，剩余限期在10年及以上的主权债平均到期收益率升至2008年7月以来最高。。。|“财务现实、一连的通胀危害以及一些政治不确定性，，，， ，，再加上投资者要求更高的收益率，，，， ，，正在推动债券更普遍的重新定价。。。”巴克莱驻伦敦的研究部分认真人Patrick Coffey体现。。。“若是霍尔木兹海峡不可恢复通航，，，， ，，短期内很难看到能彻底扭转目今抛售的催化因素。。。”|近几周，，，， ，，全球债券收益率大涨，，，， ，，投资者担心能源本钱飙升会传导至种种消耗品。。。与此同时，，，， ，，日本、英国和美国的政府支出也引发担心，，，， ，，再加上人工智能热潮推动美国经济增添，，，， ，，投资者因此追求更高的恒久债券收益率。。。|自伊朗冲突爆发以来，，，， ，，美国30年期国债收益率已上升近60个基点，，，， ，，至5.20%，，，， ，，创2007年7月以来最高水平。。。受海内政治危；跋欤，，， ，，英国同限期国债收益率升至1998年以来最高。。。|Triada Capital Ltd．驻香港的首席投资官Monica Hsiao预计美国10年期国债收益率很可能会突破4.75%，，，， ，，并称，，，， ，，除了伊朗战争之外，，，， ，，大规模债券刊行、限期溢价重估以及手艺面因素也在推动债券下跌。。。 (?226)