Сенатор США Берни Сандерс призвал руководителей ведущих технологических компаний приостановить разработку систем искусственного интеллекта, предупредив о возможных последствиях дальнейшего ускорения развития технологии. Соответствующие письма он направил главе OpenAI Сэму Альтману, руководителю Anthropic Дарио Амодею и главе Meta Марку Цукербергу. Об этом сообщает Axios.
«Позвольте мне внести ясность: если вы сейчас не предпримете соответствующие действия, это сделаем я и мои коллеги в Сенате США», — предупредил Сандерс. Он призвал руководителей компаний «прекратить создавать машины, которыми люди не могут управлять».
Сенатор напомнил, что технологические компании ранее заявляли о готовности приостановить разработку, если создаваемые ими системы станут слишком опасными для безопасного управления. По мнению Сандерса, такой момент уже наступил.
В своем обращении он сослался на недавние случаи, когда исследователи использовали ИИ при разработке новых вирусов, а также на эпизоды непредсказуемого поведения моделей. Сандерс считает, что на этом фоне продолжение инвестиций в разработку систем, которые, по его словам, люди не могут полностью понять, предсказать или контролировать, создает серьезные риски.
«Мистер Альтман, мистер Амодей и мистер Цукерберг: в интересах человечества придерживайтесь своих слов. Приостановите развитие ИИ. Еще не поздно избежать катастрофы. Прекратите создавать машины, которыми люди не могут управлять», — написал Сандерс.
Обращение сенатора стало попыткой усилить политическое давление на крупнейшие компании отрасли. При этом Axios отмечает, что законодательные инициативы по регулированию ИИ, особенно исходящие от Сандерса, в нынешнем составе Конгресса вряд ли получат достаточную поддержку для принятия. В ближайшей перспективе сенатор, вероятно, будет добиваться общественного и политического давления на технологические компании, а в случае изменения расстановки сил в Конгрессе вопрос может перейти к расследованиям и вызовам руководителей компаний на слушания.
Ранее Axios сообщал о решении OpenAI замедлить разработку модели Astra из-за опасений относительно ее возможностей в сфере кибербезопасности. Anthropic также выступала за замедление развития ИИ, предупреждая о возможности появления систем, способных в перспективе самостоятельно совершенствовать свои возможности.
При этом сама OpenAI продолжает публично заявлять о необходимости сочетать развитие ИИ с мерами безопасности и общественным контролем. В опубликованном в июне плане компании Сэм Альтман и Джейкоб Пачоцки отмечали, что развитие передовых возможностей ИИ должно сопровождаться безопасностью, защитой частной жизни и общественным надзором
