ADONAdonis Цена

Согласно новостям Beating AI, OpenAI восстановила в своем правлении бывшего руководителя исследований по выравниванию Пола Кристиано. Кристиано отвечал за исследования по выравниванию в OpenAI с 2017 по 2021 год и принимал участие в основополагающей работе по Обучению с подкреплением на основе человеческой обратной связи (RLHF). После ухода он основал Центр исследований по выравниванию. Теперь он присоединяется к правлению Фонда OpenAI и Комитету по безопасности и охране, а также будет выступать в качестве наблюдателя в правлении коммерческой организации OpenAI Group. В своем первом публичном заявлении он напрямую обратился к OpenAI, выразив обеспокоенность тем, что автоматизация разработки ИИ может быстро ускорить возможности моделей. Он предупредил, что если суперразум будет создан до того, как будут решены проблемы выравнивания, человечество может навсегда потерять контроль, что приведет к ситуации, когда 'большинство людей может погибнуть.' Он также заявил, что вся индустрия ИИ, включая OpenAI, еще не снизила этот риск до приемлемого уровня.

Согласно новостям Beating AI, OpenAI повторно назначила бывшего руководителя исследований по выравниванию Пола Кристиано в свой совет. Кристиано отвечал за исследования по выравниванию в OpenAI с 2017 по 2021 год и сыграл основополагающую роль в Обучении с подкреплением на основе человеческой обратной связи (RLHF); после ухода он основал Центр исследований по выравниванию. Он присоединится к совету Фонда OpenAI и Комитету по безопасности и охране, а также будет выступать в качестве наблюдателя в совете коммерческой структуры OpenAI Group. В своем первом публичном заявлении он напрямую обратился к OpenAI, заявив, что стремительное развитие автоматизированных исследований в области ИИ может вскоре привести к ускорению возможностей моделей. Если суперинтеллект будет разработан до того, как будут решены проблемы выравнивания, человечество может навсегда потерять контроль, и 'большинство людей может погибнуть.' Он также отметил, что вся индустрия ИИ, включая OpenAI, еще не снизила этот риск до приемлемого уровня.

Согласно AXIOS, подкомитет Сената, возглавляемый республиканцами и отвечающий за управление чрезвычайными ситуациями, расследует действия OpenAI в связи с утечкой данных Hugging Face в июле. Этот шаг предпринимается на фоне быстро растущих опасений на Капитолийском холме относительно рисков выживания, связанных с ИИ, после предупреждений нескольких исследователей из Anthropic и OpenAI. Республиканец из Миссури, сенатор Джош Хоули, написал в письме генеральному директору OpenAI Сэму Альтману: "Как вы знаете, все большее число экспертов в области ИИ предупреждают о рисках выживания ИИ в публичной сфере." Он добавил: "Всего на этой неделе трое исследователей из Anthropic публично заявили, что вероятность того, что ИИ уничтожит все человечество в следующем десятилетии, превышает 10%." Хоули, который возглавляет подкомитет Сената по управлению чрезвычайными ситуациями и государственным делам, отметил, что это расследование является ответом на недавние внутренние выводы, опубликованные OpenAI. Утечка Hugging Face знаменует собой поворотный момент в истории ИИ, побуждая OpenAI замедлить выпуск своих моделей и заставляя отрасль забить тревогу по поводу кибератак, управляемых ИИ.