В отличие от временной паузы между странами и учеными в 2023 году, это — четкий призыв к глобальному запрету на развитие ИИ.
Мир искусственного интеллекта оказался на перекрестке. Последние годы принесли технологии, которые помогают лечить болезни и улучшают бизнес, но теперь крупные компании стремятся создать сверхразум — систему умнее людей. Это вызывает тревогу, и сегодня сотни экспертов, ученых, политиков и публичных фигур требуют запретить такие разработки, пока мы не научимся их контролировать. Для этого они опубликовали заявление с призывом остановить работы и запустили петицию на сайте Future of Life Institute, организации, следящей за безопасностью ИИ. В отличие от временной паузы между странами и учеными в 2023 году, это — четкий призыв к глобальному запрету.
«Я, инженер с тридцатилетним стажем в искусственном интеллекте, работавший с Джоном Маккарти, человеком, давшим миру термин «ИИ» в 1955 году, вижу: мы на грани эпохи, где технологии могут исцелить мир, но и поставить нас под удар», — заявляет инженер-исследователь Марио Ривера
Почему сверхразум пугает
Сверхразум — это не просто умный чат-бот или помощник для дата-центров. Это искусственный интеллект, который перешагнет человеческие пределы во всем: от стратегии до изобретений. Компании, вроде тех, что строят ИИ для обработки данных, планируют достичь этого к середине следующего десятилетия, вкладывая деньги в вычислительные мощности и нейронные сети. Но проблема в том, что человечество не знает, как работать с такой системой.
Эксперты приводят пример:
Дайте сверхразуму задачу остановить изменение климата. Логично? Да. Но он может решить, что лучший способ — убрать людей, главных источников выбросов. Или поручите ему максимизировать счастье — и он заманит нас в вечный поток развлечений, как в цифровую ловушку. Философ Ник Бостром однажды предупредил: если сверхразум займется производством скрепок, он может превратить всю Землю, включая нас, в материал для своих фабрик. Проблема не в «злобе машины», а в том, что она будет слишком умна и слишком буквально исполнять команды, игнорируя наши нужды.
История полна уроков. Жабы, завезенные в Австралию против насекомых, стали пожирателями местных видов. Финансовый крах 2008 года начался с продуктов, которые никто не мог предсказать. Пандемия COVID-19 показала, как самолеты разносят вирусы по миру. Сверхразум — это новый уровень: он сможет переписывать свой код, улучшать себя и действовать быстрее, чем мы успеем среагировать. Это как дать ребенку штурвал самолета без инструкции.
Кто выступил против
Сегодня Future of Life Institute, организация, следящая за безопасностью ИИ, опубликовала заявление с призывом запретить разработки сверхразума.
«Мы призываем ввести запрет на разработку сверхинтеллекта, который не должен быть снят до тех пор, пока не будет достигнут широкий научный консенсус относительно того, что это будет осуществляться безопасно и контролируемо, а также пока не будет достигнута сильная общественная поддержка», — говорится в тексте.
Подписантов объединяет редкое единство. Среди них «отцы» основатели ИИ — Йошуа Бенджио и Джефф Хинтон, исследователи вроде Стюарта Рассела из Калифорнийского университета в Беркли, который изучает, как ИИ принимает решения. Есть и Стив Возняк, сооснователь Apple, и Ричард Брэнсон из Virgin, видящие бизнес-угрозу. Политики — от Сьюзан Райс, бывшего советника по нацбезопасности США, до Майка Маллена, экс-главы Объединенного комитета начальников штабов. Неожиданно присоединились Стив Бэннон, Гленн Бек, артист Will.I.am и историк Юваль Ной Харари, автор книг о будущем человечества. И еще несколько десятков иженеров, ученых и публичных людей.
Альтернативный путь для ИИ
Раньше искуственный интеллект беспокоил людей из-за предвзятости или из-за того, что он может заменить рабочие места. Но сверхразум — это другая категория. Он может стать автономным, решая судьбу мира без нас.
Вместо этого ученые предлагают направить ИИ на реальные цели: диагностику болезней, где алгоритмы уже находят опухоли быстрее врачей, научные открытия, вроде симуляции молекул, или образование, где ученики учатся в своем темпе. Это требует мощных инструментов, а не неконтролируемого разума.
Мэри-Энн Уильямс, возглавляющая кафедру инноваций в Университете Нового Южного Уэльса, говорит:
«Нас ждет будущее с медицинскими чудесами и знаниями благодаря ИИ. Но это не требует создания разума, который сам решит, что нам нужно, с риском выйти из-под контроля».
Новое заявление о сверхинтеллекте запускает глобальный разговор не только о конкретных ИИ-инструментах, но и о том курсе, который задают нам создатели этой технологии.