Американские законодатели предлагают ввести жесткие ограничения на искусственный интеллект с запретом на сверхразум

Сенаторы США Берни Сандерс (Bernie Sanders) от штата Вермонт и Грег Касар (Greg Casar) от штата Техас представили новый законопроект, который налагает серьезные ограничения на индустрию искусственного интеллекта, включая запрет на разработку так называемого искусственного сверхинтеллекта. Закон, принятый в среду, был принят спустя несколько недель после того, как отраслевые исследователи topAI опубликовали ряд предупреждений о том, что технология может уничтожить человечество в течение следующего десятилетия, сообщает волна инсайдеров отрасли. В почти 20-страничном законопроекте излагается прямой запрет на разработку интеллекта, который может превзойти человеческий и способен “уничтожить человечество или лишить его силы, в том числе путем свержения федерального правительства”. Законодательство также предусматривает временную приостановку разработки передовых систем искусственного интеллекта до тех пор, пока не будет создан регулирующий орган, который сможет осуществлять надзор и разрабатывать стандарты безопасности, а также создание отдела на уровне кабинета министров под названием Департамент искусственного интеллекта, который будет осуществлять надзор за отраслью. Предлагаемому агентству будет поручено регулировать так называемые пограничные модели — термин, относящийся к наиболее продвинутым моделям искусственного интеллекта, находящимся в стадии разработки. Агентство будет следить за тем, чтобы модели не представляли опасности, и оно будет наделено полномочиями изъять модели из обращения, если они действительно станут опасными, и контролировать их уничтожение. Законопроект также предусматривает суровые наказания для тех, кто нарушает запрет на использование искусственного интеллекта, вплоть до 20 лет тюремного заключения, что аналогично аналогичным наказаниям для лиц, разрабатывающих ядерное оружие. В нем также говорится, что лицам, нарушающим положения, будет запрещено работать в индустрии искусственного интеллекта в течение 10 лет. Для компаний законодательство также предусматривает “смертную казнь для корпораций”, в соответствии с которой федеральное правительство может наложить арест на интеллектуальную собственность и активы правообладателей. Законодательство требует международной координации для введения глобального запрета. Это включало бы заключение международных соглашений, а также введение экспортного контроля за “вычислительной инфраструктурой искусственного интеллекта”....