Руководители OpenAI и Anthropic призывают ООН к глобальному регулированию ИИ

Лидеры отрасли настаивают на глобальном регулировании, поскольку администрация Трампа не спешит устанавливать новые барьеры. Руководители нескольких крупных компаний, занимающихся ИИ, заявили Совету Безопасности ООН, что их отрасли срочно необходим глобальный надзор, чтобы избежать опасностей, которые могут угрожать всему миру. “Я даже считаю, что при плохом управлении искусственный интеллект может представлять опасность для человечества в целом”, - заявил в среду членам организации Дарио Амодей, главный исполнительный директор Anthropic. Сэм Альтман, глава конкурирующей компании OpenAI, выразил обеспокоенность, заявив совету из 15 членов, которому поручено бороться с крупными кризисами во всем мире, что человечество может “потерять контроль над будущим искусственного интеллекта”. Встреча, которая приурочена к Генеральной Ассамблее ООН (ГА ООН), проходящей в Нью-Йорке, была созвана Францией в то время, когда эксперты все чаще предупреждают, что быстрое развитие искусственного интеллекта требует большего контроля со стороны человека, чтобы оно не вышло из-под контроля и не привело к глобальной катастрофе. Альтман и Амодей призвали мировых лидеров принять меры. “Если ИИ хочет быть демократичным, самые важные решения не могут приниматься лабораториями в Сан-Франциско в одиночку”, - сказал Альтман участникам конференции. “Они должны формироваться в рамках демократических процессов и правительствами, подотчетными людям, которым они служат”. Их опасения разделили несколько представителей в совете, в том числе министры иностранных дел Франции и Соединенного Королевства, которые заявили, что международному сообществу необходимо вмешаться и создать общие рамки для контроля над технологией. Генеральный директор Hugging Face Клемент Деланг, чья компания в последние месяцы подвергалась атакам со стороны вышедших из-под контроля моделей искусственного интеллекта - инциденты, которые другие компании использовали в качестве доказательства необходимости принятия дополнительных мер безопасности, – рассказал Совету безопасности ООН, что его компания полагалась на технологию, чтобы защитить себя в таких же инцидентах. Деланг сказал, что Hugging Face использовал китайскую модель искусственного интеллекта для защиты от атак агентов OpenAI, поскольку она сталкивалась с меньшим количеством ограничений, чем аналогичные инструменты в США. “На нас напал искусственный интеллект, но, что более важно, мы защитили себя с помощью ИИ”, - сказал он совету....