Вероятность того, что ИИ приведет к вымиранию людей, составляет 5%, говорят ученые
Многие исследователи искусственного интеллекта видят в возможном будущем развитии сверхчеловеческого ИИ нетривиальный шанс вызвать вымирание человечества, но существуют также широко распространенные разногласия и неуверенность в отношении таких рисков.
Эти результаты получены в результате опроса 2700 исследователей искусственного интеллекта, которые недавно опубликовали работы на шести ведущих конференциях по искусственному интеллекту – крупнейшего такого опроса на сегодняшний день. В опросе участникам было предложено поделиться своими мыслями о возможных сроках будущих технологических вех в области искусственного интеллекта, а также о хороших или плохих социальных последствиях этих достижений. Почти 58 процентов исследователей заявили, что, по их мнению, существует 5-процентная вероятность вымирания человечества или других крайне плохих последствий, связанных с ИИ.
«Это важный сигнал о том, что большинство исследователей ИИ не считают невероятным то, что продвинутый ИИ уничтожает человечество», — говорит автор статьи Катя Грейс из Научно-исследовательского института машинного интеллекта в Калифорнии. «Я думаю, что это общее убеждение в незначительном риске гораздо более красноречиво, чем точный процентный риск».
Но паниковать пока не стоит, говорит Эмиль Торрес из Университета Кейс Вестерн Резерв в Огайо. По их словам, многие эксперты по искусственному интеллекту «не имеют хорошего опыта» в прогнозировании будущих разработок искусственного интеллекта. Грейс и ее коллеги признали, что исследователи ИИ не являются экспертами в прогнозировании будущей траектории развития ИИ, но показали, что версия их опроса 2016 года «довольно хорошо справилась с прогнозированием» основных этапов развития ИИ.
По сравнению с ответами из версии того же опроса 2022 года, многие исследователи ИИ предсказывали, что ИИ достигнет определенных этапов раньше, чем прогнозировалось ранее. Это совпадает с дебютом ChatGPT в ноябре 2022 года и стремлением Кремниевой долины широко развернуть аналогичные службы чат-ботов с искусственным интеллектом, основанные на больших языковых моделях.
Опрошенные исследователи предсказали, что в течение следующего десятилетия системы искусственного интеллекта имеют 50-процентную или более вероятность успешного решения большинства из 39 типовых задач, включая написание новых песен, неотличимых от песен Тейлор Свифт, или кодирование всего сайта обработки платежей с нуля. Ожидается, что другие задачи, такие как физическая установка электропроводки в новом доме или решение давних математических загадок, займут больше времени.
Возможное развитие искусственного интеллекта, способного превзойти людей в выполнении любой задачи, имело 50-процентную вероятность произойти к 2047 году, тогда как вероятность того, что все человеческие виды деятельности станут полностью автоматизированными, была 50-процентной вероятностью произойти к 2116 году. Эти оценки составляют 13 лет и на 48 лет раньше, чем указано в прошлогоднем опросе.
Но повышенные ожидания в отношении развития ИИ могут также не оправдаться, говорит Торрес. «Многие из этих прорывов довольно непредсказуемы. И вполне возможно, что сфера ИИ переживет еще одну зиму», — говорят они, имея в виду прекращение финансирования и корпоративного интереса к ИИ в 1970-х и 80-х годах.
Есть и более насущные проблемы, не связанные с какими-либо сверхчеловеческими рисками ИИ. Подавляющее большинство исследователей ИИ – 70 процентов и более – описали сценарии с использованием ИИ, включающие дипфейки, манипулирование общественным мнением, инженерное оружие, авторитарный контроль над населением и ухудшение экономического неравенства, как вызывающие либо существенную, либо крайнюю обеспокоенность. Торрес также подчеркнул опасность того, что ИИ способствует дезинформации по таким экзистенциальным проблемам, как изменение климата или ухудшение демократического управления.
Обсудим?
Смотрите также:
