OpenAI高薪招募清静专家 应对AI自我进化危害 —— 今年5月,,,,Anthropic联合首创人兼政策主管Jack Clark体现,,,,他以为到2028年底,,,,实现“没有人类加入的AI研发”的概率约莫为60%。。
若是AI模子能够自行训练自己,,,,那么一种科幻式反乌托邦场景就可能泛起:它们的能力迅速增添、脱离控制,,,,并造成普遍危险——这正是AI清静运动恒久担心的问题。。
招聘信息提到,,,,这名研究员可能会专注于;;;;;;penAI模子免受“数据投毒”攻击——也就是通过被使用的训练数据来侵蚀AI模子的行为。。
OpenAI的Preparedness团队,,,,其职责是避免AI造成严重危害。。该团队的其他岗位还包括:自动化红队测试,,,,用于评估网络清静、生物与化学危害,,,,以及“署理型AI”带来的威胁。。

在已往六个月里,,,,OpenAI和Anthropic的编程工具取得了重大前进之后,,,,AI系统所谓“递归式自我刷新”的潜力,,,,已经成为AI行业认真人关注的重点。。
Demis Hassabis本周体现,,,,人类现在正站在“奇点”的脚下——也就是AI最先自我生长,,,,并逾越人类智能的谁人时刻。。妄想于今年上市的OpenAI,,,,最近宣布了一个差别寻常的招聘岗位:公司正在寻找一名清静研究员,,,,专门研究“当AI能够训练出更优异版本的自己时”所带来的效果。。
该招聘信息是本月为OpenAI的Preparedness清静团队宣布的。。岗位年薪总包为25万至38万欧元,,,,招聘工具是“有履历的手艺专家,,,,以支持针对递归式自我刷新的准备事情”。。
最近,,,,像OpenAI和Anthropic这样的实验室,,,,其模子能力正以惊人的速率一连提升——这种提升体现在它们能够解决的问题重漂后上。。
研究模子能力的实验室METR的研究职员在今年3月写道:AI模子能够完成的使命长度,,,,约莫每七个月翻一倍——这些模子正越来越能够肩负那些原本需要人类破费大宗时间完成的事情。。
该公司也希望将自身的研究事情自动化。。CEO Sam Altman去年10月体现,,,,公司目的是在今年9月之前,,,,让一个“自动化AI研究实习生”运行在数十万块芯片上;;;;;;并在2028年3月之前,,,,实现一个“真正的自动化AI研究员”。。
“我们完全可能在这个目的上失败,,,,”Altman在X上写道,,,,“但思量到其潜在影响极其重大,,,,我们以为,,,,果真透明地讨论这件事切合公共利益。。
”
热门讨论?
育儿照料:西方银行业高管押注AI精简人力 羁系机构划定“红线”|认真制订欧洲金融行业规则的欧洲银行治理局(EBA)的数字金融主管Ruta Merkeviciute体现,,,,EBA一直与各国羁系机构谈判,,,,以确保在人们越来越依赖AI处置惩罚营业流程的情形下,,,,仍有足够的人类银行从业职员举行监视。。|例如,,,,Merkeviciute在采访中体现,,,,“若是AI被用于信用评估,,,,这类指标和效果应由人工举行核查。。”她还指出,,,,这种人工监视不应只爆发在整条AI流程的最后一步,,,,而应贯串多个要害环节。。|AI新功效的快速推出也进一步引发了市场推测:机械是否已经能够完成那些恒久以来被以为凌驾其能力规模的使命。。渣打周二体现,,,,随着AI的应用推进,,,,该行妄想到2030年前将企业职能岗位削减凌驾15%。。渣打行政总裁温拓思称,,,,此举将有助于替换所谓的“低价值人力资源”。。这一语言随即引发外界品评,,,,以后温拓思试图宽慰员工。。|但温拓思并非个例。。英国最大银行汇丰控股也正在思量削减约2万个岗位,,,,押注AI有望资助其缩减中后台部分规模。。周三,,,,汇丰行政总裁艾桥智体现,,,,很显着,,,,天生式AI将“摧毁”某些岗位,,,,但同时也会创立新的事情时机。。|高盛首席运营官John Waldron本月早些时间则将公司的运营系统形容为一条“人力装配线”,,,,很是适合自动化刷新。。而摩根大通CEO杰米·戴蒙也体现,,,,AI将影响这家美国最大银行“险些所有职能部分”。。|怎样羁系AI的问题,,,,正在差别司法辖区一直演变。。特朗普政府希望美国在AI立异领域占有主导职位,,,,因此此前一直接纳较为宽松的羁系方法。。然而,,,,Anthropic PBC的Mythos泛起,,,,现在正促使政府转向越发审慎的态度。。|在欧洲,,,,2024年通过的《人工智能法案》已经设立了一些主要的羁系护栏。。然而,,,,手艺生长的速率仍然快于包管其清静所需规则的制订速率。。|EBA同时也认真为在欧洲运营的美国和亚洲银行制订规则。。Merkeviciute体现,,,,该机构希望确保欧盟各国羁系部分都拥有应对AI给金融行业带来危害的“操作手册”。。她指出,,,,AI模子越重大,,,,就越需要人工控制,,,,以确保当羁系机构上门审查时,,,,其效果能够被诠释清晰。。她还体现,,,,羁系机构也会关注银行对第三方AI供应商的依赖水平。。|EBA数字金融政策专家Alain Otaegui体现,,,,现在手艺现实上已经能够完全自动化处置惩罚一些合规使命,,,,例如“相识你的客户(KYC)”。。|不过,,,,他也忠言称,,,,不应将这些流程完全交给AI。。他说,,,,“至少仍需要保存一定水平的人类加入。。”Merkeviciute则体现,,,,羁系层部分担心在于,,,,在诓骗检测等领域,,,,AI可能会爆发“误报”。。 (?631)
旅行家:YieldMax做空特斯拉期权收入战略ETF宣布每周派息0.2123美元|YieldMax做空特斯拉期权收入战略ETF于5月21日宣布举行每周股息分派,,,,每股派息金额为0.2123美元,,,,生意代码为CRSH。。此次派息较前一周的0.2019美元横跨5.15%,,,,年化分派率为50.43%。。除息日及股权挂号日均为5月21日,,,,支付日为5月22日。。|该基金于2024年5月1日在NYSE Arca生意所上市,,,,是一只自动治理型ETF,,,,总用度率为0.99%,,,,治理资产规模约1599万美元。。其焦点战略为合成备兑看跌期权价差战略,,,,主要通过卖出特斯拉股票的看跌期权价差来获取期权费收入,,,,同时持有美国短期国债作为典质品。;;;;;;鸩恢苯油蹲视谔厮估善保,,,投资目的是为投资者提供一连的每周收入,,,,次要目的是提供与特斯拉股价变换相反的反向敞口。。|凭证YieldMax官网披露的数据,,,,阻止2026年5月14日,,,,CRSH的30天SEC收益率为2.27%。。值得注重的是,,,,此次派息中约94.48%来自本金返还,,,,仅5.52%来自现实投资收益。。过往派息中有相当比例可能来自本金返还,,,,这会随时间推移降低基金的资产净值和生意价钱。。|投资者需注重相关危害:该战略在特斯拉股价上涨时面临所有潜在损失,,,,最高可达100%,,,,且若特斯拉股价下跌,,,,基金的下跌收益保存上限。;;;;;;鹱越ㄉ枰岳淳恢道奂葡碌52.39%。。 (?145)
联络员:SK海力士跻身万亿美元市值俱乐部 比肩英伟达和台积电|乘着人工智能(AI)驱动的芯片热潮,,,,SK海力士已成为全球最具价值的芯片制造商之一,,,,跻身市值凌驾1万亿美元的顶尖企业行列,,,,与英伟达、台积电等公司比肩。。|这家全球第二大存储芯片制造商的股价今年迄今已上涨逾两倍。。周三早盘,,,,该股一度大涨15%,,,,一举将SK海力士的市值推高至1600万亿韩元以上,,,,约合1.061万亿美元。。|SK海力士是继三星电子(Samsung Electronics)之后第二家市值跨过1万亿美元大关的韩国公司。。本月早些时间,,,,三星电子的市值突破了这一关口。。|SK海力士抢在竞争敌手之前,,,,率先开发出HBM3和HBM3E产品并向英伟达供货,,,,由此确立了在高带宽存储(HBM)市场的领军职位。。该公司4月份宣布,,,,受需求激增的推动,,,,季度净利润增添了四倍。。|SK海力士体现,,,,在阻止3月份的三个月里,,,,其净利润同比激增约400%,,,,抵达创纪录的40万亿韩元,,,,远超华尔街预期。。与此同时,,,,该公司的收入和营业利润也双双创下季度新高。。|存储芯片就好比盘算引擎的燃料管线。。随著英伟达等公司的AI处置惩罚器性能日益强盛,,,,其对存储器的需求也在增添,,,,这不但涵盖古板芯片,,,,也包括先进的高带宽存储(HBM)。。|SK海力士在3月份体现,,,,已向美国证券生意委员会提交刊行美国存托凭证(ADR)的申请。。赴美上市有望吸引更多全球投资者,,,,从而为该公司雄心壮志的投资妄想提供资金支持。。 (?812)