Часто говорят, что через несколько лет ИИ станет таким же умным, как человек. В США бытует мнение, что регулирование ИИ неоправданно замедляет развитие. Что стоит за этим энтузиазмом и как далеко должно зайти регулирование?
Осенью прошлого года Нобелевская премия по химии была присуждена трем ученым, добившимся значительных успехов в исследованиях с помощью нового искусственного интеллекта (ИИ). Ученым, работающим только традиционными методами, потребовались бы месяцы или даже десятилетия, чтобы завершить эту работу. Однако после того, как были найдены подходящие инструменты ИИ, на это стали уходить часы или даже меньше. Теперь у нас есть новые сведения о миллионах белков, которые должны принести пользу медицине. Не исключено, что этот новый способ работы позволит нам найти биологические процессы, перерабатывающие пластиковые отходы в наших океанах.
Открытия исследователей дают основания для прогнозов. В скором времени появится "общий искусственный интеллект", о чем мы неоднократно читали на протяжении нескольких месяцев. Речь идет о такой форме искусственного интеллекта, которая практически не уступает человеку во всех областях познания, - об искусственном интеллекте общего назначения (Artificial General Intelligence, AGI). Часто говорят, что он будет готов через три-пять лет, а иногда даже говорят об одном-двух годах.
Ответит ли в скором времени компьютерный центр на важнейшие научные вопросы о получении энергии с помощью ядерного синтеза? Принесет ли компьютерная сеть фундаментальный прорыв в исследовании рака?
По словам Сэма Альтмана, одного из участников дебатов, после достижения AGI не должно пройти много времени, прежде чем мы достигнем «сверхразума»: Тогда компьютеры даже явно превзойдут нас практически во всех областях. Тогда компьютеры и люди будут относиться друг к другу по уровню интеллекта примерно так же, как сегодня люди относятся к шимпанзе.
Опасности искусственного интеллекта
Там, где есть огромный потенциал, растут и опасности. Демис Хассабис, один из лауреатов Нобелевской премии, который также работает в Google в области ИИ, предупреждает, что ИИ может находить не только полезные биоблоки, но и те, которые подходят для создания нового биооружия. В США, напротив, недавно едва не был принят закон, который запретил бы штатам регулировать ИИ в течение десяти лет.
Усилия по регулированию в меньшей степени связаны с ужасным сценарием компьютерного господства, то есть с мнением, что сверхумные компьютеры однажды смогут обращаться с нами так же, как мы сегодня обращаемся с шимпанзе. Правда, недавно один программист в интервью Spiegel снова представил такой сценарий: «Как только обман перестанет быть необходимым, ИИ уничтожит человечество». Но журналиста, видимо, это не убедило: в своей последующей колонке он продолжает выступать за регулирование ИИ, но уже не упоминает ужасающий сценарий с мерзкими суперкомпьютерами. Его беспокоит, что ИИ заменит труд, что он будет свободно делиться чертежами оружия массового поражения и что люди влюбятся в компьютеры, имитирующие любящего человека.
Не мешает ли осторожность прогрессу?
Правительство Трампа, напротив, хочет запретить регулирование ИИ, поскольку считает, что в условиях запретов и бюрократических требований мы упустим множество преимуществ. Лучше смириться с любым ущербом и внести улучшения позже. В конце концов, в области ИИ уже идет гонка вооружений между США и Китаем, и пока Запад впереди, он может лучше защитить себя от кибератак и оружия, поддерживаемого ИИ. Возможно, имеет смысл запретить продажу Китаю особо мощных компьютерных чипов. Между тем крупные компании, занимающиеся разработкой ИИ, такие как OpenAI и Google, действуют не только из чувства гражданской ответственности. Для них меньшее регулирование означает большее влияние на рынок и большую власть. Итак: Должны ли мы в Европе регулировать ИИ более или менее?
ИИ уже превосходит человека во многих областях: В игре в шахматы, в некоторых областях математики и в статистическом анализе больших баз данных. В программировании ИИ почти не уступает студентам, изучающим информатику. На вступительных экзаменах в юридические вузы США компьютеры показывают результаты лучше, чем 90 процентов выпускников университетов. В медицинских тестах они показывают результаты лучше, чем 80-90 процентов врачей, а компьютеры могут обнаружить опухоли на компьютерных томограммах лучше, чем человек.
ИИ также часто пишет достойные тексты. Как правило, он не создает гениальных творческих произведений. Но все больше исследователей и журналистов используют ИИ, чтобы, например, рассказать о состоянии исследований в новой предметной области.
Но действительно ли через несколько лет ИИ сравняется с человеком во всех ключевых областях интеллекта? Если да, то это повысит актуальность дискуссии о регулировании. Может быть, в ближайшем будущем можно будет получить огромные прибыли, которые не следует сдерживать новым регулированием? Возможно, тогда ЕС должен пойти на большие уступки США, чтобы иметь возможность участвовать в технологическом развитии. А может быть, в скором времени возникнут чрезвычайные опасности?
Надежды - и две слабости
Пожалуй, больше всего в репортажах об искусственном интеллекте меня удивляет то, как редко можно прочитать о том, как на самом деле работает ИИ и какие именно процессы, как ожидается, приведут к серьезным прорывам. В то же время список желаний, с которым некоторые разработчики размышляют о возможностях ИИ, практически не имеет границ. Конечно, амбициозные цели позволяют достичь большего в развитии, чем фундаментальный скептицизм. Но эти разработчики не просто сидят за своими столами. Они выступают в средствах массовой информации, задают тон и оказывают сильное влияние на то, что думают о новой технологии инвесторы, журналисты, политики и избиратели.
Нобелевский лауреат Хассабис считает, что вполне возможно, что примерно через десять лет ни одна болезнь не будет неизлечимой. Также ожидается, что мы сохраним от ИИ ключ к термоядерной энергии. Да, от систем ИИ мы «получим все, что хотим от них как от общества». Эффект от ИИ «в десять раз больше, чем от промышленной революции».
Человеческое воображение
Однако в другом месте Хассабис открыто признает, что у ИИ есть два главных недостатка. Хотя он может проверять известные гипотезы, он не может придумывать новые гипотезы. Это примечательно, поскольку многое в науке зависит от постановки правильных вопросов. Например, прежде чем Исаак Ньютон представил свою новаторскую теорию гравитации, ему пришлось отказаться от традиционного мнения, что все тела стремятся к соответствующей цели по собственной воле.
Ему пришлось полностью переосмыслить реальность, а затем он обнаружил, что может лучше описать ее с помощью своего нового взгляда. Напротив, некоторые коллеги Ньютона считали идею гравитации, притягивающей другой пассивный объект, абсурдной - ведь для этого нужен прямой физический контакт!
Бывший советник Джо Байдена по вопросам ИИ Бен Бьюкенен в интервью, посвященном ИИ, сказал, что особенно любит литературу и «надеется», что компьютеры не превзойдут нас, людей, хотя бы в том, что касается глубокой интерпретации литературной классики. Его собеседник, журналист Эзра Кляйн, согласился с этим. Но в то же время Кляйн неоднократно заявлял, что компьютеры вскоре достигнут человекоподобного интеллекта, AGI.
Литература, на которую ссылается Бьюкенен, ни в коем случае не имеет отношения к этому вопросу, потому что литература - это еще и воображение, о котором говорилось ранее: человеческое воображение вносит значительный вклад в науку и дух человеческих открытий. Так что это отнюдь не неуместная роскошь для ИИ, и Бьюкенен поднимает здесь очень фундаментальный вопрос. Я не берусь судить, ошибается ли Кляйн в этом вопросе. Но я задаюсь вопросом: как ему удается делать такие грандиозные заявления об ИИ и в то же время так мало внимания уделять природе человеческого разума?
Вторая слабость ИИ, по мнению Хассабиса, заключается в том, что он не мыслит и не рассуждает рационально. Правда, ИИ тоже говорит о рациональности: ChatGPT, например, предлагает коммерческим подписчикам систему, которая, по крайней мере до мая прошлого года, обладала значительно лучшими «рациональными» возможностями, чем бесплатный ChatGPT. Но мы, люди, обладаем рациональностью в другом смысле. Мы просто понимаем, что утверждение "5 + 5 = 10,1" не может быть истинным.
ChatGPT, с другой стороны, обучалась на математических утверждениях, которые практически не содержат очевидных ошибок. Другие системы используют иные методы, но как только система будет обучена на утверждении "5 + 5 = 10,1", ИИ скорректирует свое утверждение. Система "рациональна", когда она извлекает как можно больше из того, что ей сказали, что это правда. Это отличается от нашей рациональности.
ИИ и религия
Меня очень впечатляют многочисленные возможности ИИ. Я считаю слишком рискованным утверждать, что ИИ никогда не сможет сделать то или иное. Но я также не согласен с утверждением Хассабиса, что ИИ даст нам все ответы, на которые мы надеемся, в среднесрочной перспективе. Сюда продолжает закрадываться мнение, что в нашей реальности в принципе не существует жестких ограничений для нашего познания. Вера Хассабиса в разум и его бесконечный прогресс имеет что-то псевдорелигиозное. Его мнение о том, что ИИ наконец-то откроет нам самые глубокие тайны природы, - это своего рода религия откровений.
Мне кажется, его взглядам не хватает критического осмысления: возможно, пока что ИИ не способен к настоящему творчеству и не может рационально рассуждать, но через три-пять лет он достигнет уровня человеческого разума. С другой стороны, такие мыслители, как Гэри Маркус, отмечают, что в некоторых областях производительность ИИ не соответствует тому, что нам обещали в течение некоторого времени. Но такие скептические голоса получают гораздо меньше внимания в СМИ.
Конечно, стоит надеяться, что ИИ позволит совершить множество революционных и полезных открытий. Европейским правительствам имеет смысл вкладывать больше средств в развитие ИИ - даже если мы должны больше говорить об экологических издержках. С другой стороны, христианская идея творения, например, поднимает вопрос о том, не находимся ли мы в реальности, которая может оставаться для нас непостижимой в некоторых аспектах, потому что она обязана своим существованием другой силе.
Разумеется, это не аргумент против попыток расшифровать тайны природы! Я ни в коем случае не хочу наложить запрет на размышления, связанные с идеей творения. Раскроем ли мы секреты квантовой физики и термоядерной энергии с помощью ИИ? Я надеюсь, что да! Но то, что многие отвечают на этот вопрос утвердительно, не имеет для меня смысла.
Регулирование искусственного интеллекта
Что это значит для регулирования ИИ? ИИ используется в различных областях для принятия эффективных решений. Таким образом, он приносит пользу обществу, например, в страховании, кредитовании, здравоохранении и при найме сотрудников в компании. Однако такие решения далеко не всегда безупречны, поэтому у граждан, которых они касаются, должны быть способы оспорить решения ИИ.
Возможно, сторонники ИИ даже согласятся с этим. Но вопрос в том, насколько актуальной они считают эту проблему. Является ли потенциальная выгода от бесконтрольного развития ИИ настолько огромной, что лучше минимизировать препятствия на его пути с помощью регулирования и защиты прав потребителей? Насколько нам известно, на этот вопрос нельзя просто ответить безоговорочным «да». Человеческие разработчики ошибаются, и именно поэтому их продукт, искусственный интеллект, также ошибается. Дебаты об «общем искусственном интеллекте» (AGI) выиграли бы от немного большего интеллектуального смирения.
Источник: www.evangelisch.de
