РАПСИ продолжает серию статей — размышлений на тему того, превратится ли Ai в надежного помощника человека или станет в итоге контролирующей человечество машиной.

Несколько дней назад компания Apple заявила о том, что встраивает искусственный интеллект в свои устройства. Для этого Apple подписало партнерское соглашение с OpenAI и скоро чат-бот с генеративным искусственным интеллектом ChatGPT будет интегрирован в операционные системы iOS, iPadOS и macOS. Илон Маск, известный противник развития сильного ИИ, тут же выступил с предупреждением, что при встраивании ИИ в устройства Apple он запретит пользоваться телефонами и иными продуктами Apple в своих компаниях. Какие глобальные проблемы порождает повсеместное внедрение технологий ИИ? Чего же так опасается Илон Маск?

Надо сказать, что искусственный интеллект все глубже проникает в нашу повседневную жизнь, и вследствие этого человечество стремительно движется от ноосферы по Вернадскому, то есть биосферы, управляемой человеческим разумом, к киберсфере, где управление берет на себя компьютерный «искусственный» интеллект. С одной стороны, переход к киберсфере приносит множество неоспоримых преимуществ: освобождение людей от монотонного и тяжелого труда, повышение эффективности в производстве и сельском хозяйстве, улучшение медицинского обслуживания и так далее. Однако, с другой стороны, этот переход порождает целый ряд глобальных проблем, которые могут привести к непредсказуемым и опасным последствиям для всего человеческого сообщества, таких как: упадок человеческого интеллекта; недоверие к выводам, сделанным искусственным интеллектом; появление неожиданных свойств у эмерджентного ИИ; возможность вмешательства в естественную эволюцию человека с помощью ИИ.

Рассмотрим подробнее эти пункты.

Если автоматизация и механизация труда, развитие телекоммуникационных технологий и урбанизация вызвали угрозы, связанные с физической гиподинамией, то повсеместное использование технологий искусственного интеллекта, рост интеллектуально-психической зависимости от компьютерных устройств и стирание границ между реальным и виртуальным мирами сопряжены с рисками «умственной гиподинамии» - деградации естественного интеллекта, который является системообразующим фактором всей человеческой цивилизации. Человеческое общество становится все более зависимым от интеллектуальных технических систем, и на искусственный интеллект все чаще возлагаются задачи, которые ранее считались прерогативой человеческого разума.

Одной из ключевых проблем, возникающих при использовании систем искусственного интеллекта, особенно тех, что основаны на искусственных нейронных сетях, является их «непрозрачность» из-за отсутствия механизмов объяснения принятия решений. Поэтому крайне важной и сложной задачей становится обеспечение уверенности в том, что интеллектуальная система будет выполнять поставленные перед ней задачи с приемлемым качеством и при этом оставаться безопасной для человека. Эти особенности систем ИИ требуют введения понятия «доверия» (trustworthiness), что означает, во-первых, определённую уверенность пользователя в способности ИИ выполнять заявленные функции, а во-вторых, готовность передавать ему эти функции.

Использование ИИ в системах с критически важными задачами вызывает сложные юридические вопросы: кто несет ответственность, если, например, терапия, предложенная ИИ-доктором, приведет к смерти пациента, или если беспилотный автомобиль, управляемый ИИ, попадет в аварию, или если оружие с ИИ наведением поразит мирное население вместо военных целей противника?

Следующая проблема связана с возможностью появления неожиданных свойств эмерджентного искусственного интеллекта. В 2020 году к Интернету было подключено около 25 миллиардов компьютерных устройств, а к 2025 году это число увеличится до 50 миллиардов. Для сравнения, количество нейронов в человеческом мозге составляет примерно 80 миллиардов. Таким образом, в ближайшем будущем число подключенных к сети устройств будет сопоставимо с числом нейронов в мозге, причем каждое устройство будет обладать своим «микропроцессорным» интеллектом. Производители микропроцессоров предупреждают, что эти устройства «могут содержать дефекты или ошибки, вызывающие отклонения в реальном поведении от описанного в спецификациях...». Всемирная компьютерная сеть становится настолько сложной, что любой непредвиденный сбой или дефект отдельного устройства может вызвать лавинообразный эффект, приводя к появлению неожиданных свойств в сети, то есть эмерджентного интеллекта. Эмерджентный интеллект – это появление новых свойств системы, которых нет у отдельных ее элементов. Примеры эмерджентного интеллекта можно наблюдать в колониях муравьев или ульях пчел, где каждый индивидуум имеет ограниченные возможности, но их коллективное взаимодействие приводит к сложным свойствам системы в целом. Сегодня мы все чаще сталкиваемся с техногенными авариями и катастрофами, которые нередко приписывают мифическим хакерам. Возможно, это первые признаки появления эмерджентного интеллекта в глобальной сети, и нам нужно быть к этому готовыми.

Ещё более опасным аспектом киберсферы является возможность целенаправленного управления человеческой эволюцией с помощью искусственного интеллекта. Это ведёт к появлению нового типа войн — ментальных войн. В традиционных войнах целью является уничтожение живой силы противника, а в современных кибервойнах, таких как конфликты в Югославии и Ираке, — разрушение инфраструктуры. Однако в ментальных войнах цель состоит в разрушении самосознания и изменении естественной эволюции противника. Если живую силу и инфраструктуру можно восстановить, то вернуть эволюцию вспять невозможно. К тому же последствия ментальной войны становятся заметны только через поколение, когда уже ничего нельзя изменить. Ярким примером ментальной войны является ситуация на Украине, где за одно поколение были разрушены самосознание и историческая память населения, полностью изменён менталитет.

Сегодня искусственный интеллект и его производные не только становятся ключевым драйвером экономического роста и улучшения социального благосостояния, но и превращаются в мощное оружие в геополитическом противостоянии ведущих мировых держав. Как сказал президент России Владимир Путин на совещании по вопросам искусственного интеллекта 30 мая 2019 года: «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта – тот станет властелином мира».

На мой взгляд, мы вряд ли когда-либо сможем создать «сильный» искусственный интеллект, который бы сравнялся с человеческим разумом или превосходил его, поскольку законы природы не позволят этого. Нам пока рано беспокоиться о том, что мы станем «рабами искусственного интеллекта». Однако современный уровень компьютерных технологий позволяет создавать «слабый» ИИ, то есть различные программные инструменты, усиливающие интеллектуальные возможности человека в решении всё более сложных задач в науке, технике, промышленности, финансах и других областях. И в этом как раз преуспевают российские ученые.

Андрей Кибернович

Мнение редакции может не совпадать с мнением автора

Стилистика, орфография и пунктуация публикации сохранены