Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик
Что на самом деле должно тревожить в стремлении скорее внедрить технологии искусственного интеллекта?
Сегодня искусственный интеллект (ИИ) помогает распознавать фото и переводит речь, водит беспилотные автомобили и обыгрывает человека в шахматы и го. Однако с некоторыми задачами он по-прежнему испытывает сложности. Почему это проблема? Узнаем из отрывка книги одного из ведущих ученых-информатиков Мелани Митчелл "Идиот или гений? Как работает и на что способен искусственный интеллект".
Если вы формируете мнение об ИИ на основе кино и научной фантастики (и даже некоторой популярной научной литературы), то наверняка боитесь, что ИИ может обрести сознание, перейти на сторону зла и попробовать поработить или истребить человечество. Но учитывая, как мы далеки от создания общего интеллекта, большинство представителей ИИ-сообщества тревожится о другом.
Как я показала в этой книге, существует множество причин беспокоиться о стремлении общества как можно скорее внедрить технологии ИИ: возможность значительного сокращения рабочих мест, опасность некорректного использования систем ИИ, ненадежность и уязвимость этих систем — вот лишь некоторые обоснованные страхи людей, озабоченных влиянием технологий на человеческую жизнь.
В начале этой книги я писала о том, как тревожит Дугласа Хофштадтера (американский физик и информатик. — Прим. Vokrugsveta.ru) текущий прогресс в ИИ, но стоит отметить, что его в основном пугало другое.
Хофштадтер опасался, что программам ИИ окажется слишком просто воссоздать человеческое познание и творчество, а результаты работы поверхностных алгоритмов вроде ЭМИ (электронных музыкальных инструментов. — Прим. Vokrugsveta.ru), использующих простой "набор хитростей", станут соперничать с великолепными творениями человеческого разума, которыми он восхищался, — например, с произведениями Шопена.
"Если маленький чип сможет обесценить эти умы бесконечной остроты, сложности и эмоциональной глубины, это разрушит мое представление о сущности человечества", — сокрушался Хофштадтер. Его также тревожили предсказания Курцвейла (Рэймонд Курцвейл — известный американский футуролог. — Прим. Vokrugsveta.ru) о грядущей сингулярности, и он с ужасом отмечал, что если Курцвейл окажется хоть в некоторой степени прав, то "нас отодвинут в сторону. Мы превратимся в пережитки прошлого. Мы останемся ни с чем".
Я понимаю беспокойство Хофштадтера, но считаю, что оно преждевременно. В конце концов, эта книга говорит, что мы, люди, склонны переоценивать достижения ИИ и недооценивать сложность собственного разума. Современный ИИ далек от человеческого уровня, и я не верю, что эра "сверхразумных" машин уже не за горами. Если общий ИИ все же будет создан, держу пари, он окажется не менее сложен, чем человеческий мозг.
В краткосрочной перспективе сверхразумность должна занимать одно из последних мест в списке опасений по поводу ИИ. Настоящая проблема — ее противоположность. На страницах этой книги я подчеркнула, насколько хрупкими остаются передовые системы ИИ: они совершают ошибки, когда их входные сигналы слишком сильно отличаются от примеров, на которых они обучались.
Часто бывает сложно предсказать, в каких обстоятельствах проявится хрупкость системы ИИ. Если нужно обеспечить надежные результаты при транскрибировании речи, переводах, описании содержания фотографий, вождении в многолюдном городе, без людей пока не обойтись.
Думаю, в краткосрочной перспективе особенно тревожно, что мы можем предоставить системам ИИ слишком большую автономию, не до конца изучив их недостатки и уязвимости. Мы склонны антропоморфизировать системы ИИ: приписываем им человеческие качества и из‑за этого переоцениваем степень доверия к ним.
Описывая опасности ИИ, экономист Сендхил Муллайнатан упомянул о феномене длинного хвоста в своем описании "хвостового риска":
"Нам следует опасаться. Но не разумных машин. Нам следует опасаться машин, принимающих решения, для принятия которых они недостаточно разумны. Я гораздо больше опасаюсь машинной глупости, чем машинного интеллекта. Машинная глупость рождает хвостовой риск. Машины могут принять множество хороших решений, а затем однажды совершить катастрофическую ошибку при столкновении с хвостовым событием, которое они не встречали в своих обучающих данных. В этом и состоит различие между узким и общим интеллектом."
Или, как выразился исследователь Педро Домингос, "люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир".
Меня беспокоит ненадежность ИИ. Меня также беспокоит его применение. Помимо этических вопросов, меня пугает использование систем ИИ для создания фальшивых материалов: текстов, звуков, изображений и видео, с ужасающей реалистичностью показывающих события, которые никогда не происходили.
Так следует ли нам опасаться ИИ? Да и нет. В ближайшее время не стоит ждать появления сверхразумных сознательных машин. "Набор хитростей" не сможет сравниться с теми аспектами человеческого разума, которые мы ценим больше всего. По крайней мере, на мой взгляд.
Но существует множество поводов для беспокойства из‑за опасного или неэтичного использования алгоритмов и данных. Все это пугает, но я рада видеть, что в последнее время эта тема привлекает большое внимание в сообществе ИИ и за его пределами. В стремлении решить эти вопросы исследователи, корпорации и политики сообща идут к одной цели.
Из книги Мелани Митчелл "Идиот или гений? Как работает и на что способен искусственный интеллект". М: Corpus, 2022