РАПСИ продолжает серию статей — размышлений на тему того, превратится ли Ai в надежного помощника человека или станет в итоге контролирующей человечество машиной.

Всемирно известные исследователи и разработчики искусственного интеллекта, среди которых глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и множество других, опубликовали 22 марта 2023 года открытое письмо с призывом немедленно приостановить обучение систем ИИ, более мощных, чем GPT-4. Речь идет о так называемом искусственном интеллекте с человеко-конкурентным интеллектом или сильном искусственном интеллекте. Давайте рассмотрим, что же это такое – сильный ИИ и чем он опасен?

Сильный искусственный интеллект отличается от существующих сегодня систем ИИ в первую очередь своей способностью к самостоятельному обучению и адаптации. Современные ИИ, такие как системы машинного обучения и нейронные сети, обладают «слабым» ИИ. Они выполняют задачи, для которых были специально обучены или запрограммированы людьми. Эти системы могут анализировать данные, распознавать изображения, переводить тексты, управлять автомобилями и выполнять многие другие специализированные функции. Однако их возможности ограничены рамками заложенных в них алгоритмов и данных.

В отличие от них, сильный ИИ предполагает наличие более глубокого уровня понимания и автономности. Он должен обладать следующими ключевыми характеристиками:

Самообучение: Сильный ИИ способен самостоятельно учиться и развиваться, используя разнообразные источники данных. Он может адаптироваться к новым условиям и задачам без необходимости перекодирования или вмешательства со стороны человека.

Универсальность: В то время как слабый ИИ обычно выполняет одну или несколько специализированных задач, сильный ИИ обладает способностью решать широкий спектр проблем, в том числе тех, для которых он не был заранее подготовлен.

Креативность: Сильный ИИ должен уметь генерировать новые идеи и подходы к решению проблем, выходя за рамки заложенных в него данных и алгоритмов.

Самосознание и понимание: Это наиболее спорный и дискуссионный аспект. Сильный ИИ должен обладать определенной степенью самосознания, пониманием контекста и способности к абстрактному мышлению, что приближает его к человеческому интеллекту.

Фактически, сильный ИИ должен обладать двумя дополнительными типами навыков: полученными через самообучение и сформированными самостоятельно для решения новых задач, к которым он изначально не был подготовлен. Навыки самообучения могут развиваться у системы с сильным ИИ на основе знаний и данных из различных доступных источников, таких как интернет, книги, фильмы и т.д., а также на основе опыта взаимодействия с внешней средой. Представьте себе такого автономного робота – юриста, адвоката или судью, который черпает знания из максимально широкого круга открытых (и иных доступных ему) источников и на их основе принимает ключевые решения.

Как раз необходимость находить собственные ответы на неизвестные ранее задачи требует от системы искусственного интеллекта способности самостоятельно формировать новые навыки. При этом ранее накопленные навыки могут использоваться как готовые строительные блоки для создания новых. Например, интеллектуальный мобильный робот может обладать базовыми навыками движения и поворота, а также распознавания препятствий, полученных через внешнее обучение. Теперь роботу необходимо самостоятельно разработать навык перемещения из одной точки в другую, избегая препятствий. Если робот способен без участия человека создать такой навык, используя имеющиеся базовые и обученные навыки, то это свидетельствует о наличии у него «сильного» ИИ.

Стоит отметить, что многие современные роботы успешно перемещаются, избегая препятствий, но их навыки (алгоритмы) были заложены инженерами или получены через внешнее обучение. Поэтому такие роботы не могут быть классифицированы как системы с «сильным» ИИ. В настоящее время системы, соответствующие критериям «сильного» ИИ, практически не существуют или находятся на ранних стадиях развития.

Таким образом, основное отличие сильного ИИ от существующих сегодня систем заключается в уровне автономности, универсальности и способности к самостоятельному развитию и адаптации. В то время как современные ИИ эффективны в выполнении узкоспециализированных задач, сильный ИИ обещает революционные изменения, предоставляя возможность для создания действительно интеллектуальных и автономных систем.

Пока сильный ИИ остается в основном теоретической концепцией. Современные достижения в области ИИ впечатляют, но они еще далеки от создания системы, обладающей всеми характеристиками сильного искусственного интеллекта. Разработка такого ИИ требует значительных прорывов в понимании когнитивных процессов, а также создания новых методов и подходов в области компьютерных наук.

Если физической основой естественного интеллекта является человеческий мозг, то, физическая основа для создания искусственного интеллекта (ИИ) — это компьютеры. Сегодня в сфере компьютерных технологий развитие ИИ идёт по двум основным направлениям: логическому и нейроморфному. Логический подход заключается в создании компьютерных систем, предназначенных для решения одной или нескольких «интеллектуальных» задач. Под «интеллектуальными» задачами понимаются те, которые потребовали бы интеллекта, если бы их решал человек. Нейроморфный подход направлен на создание компьютерных систем, имитирующих работу человеческого мозга. Его цель — создание искусственного аналога мозга человека.

Некоторые вехи и достижения развития компьютеров в рамках логического подхода:

1957 г. − создана первая программа для игры в шахматы.

1962 г. − создана программа для игры в шашки, которая обыграла сильнейшего шашиста США.

1966 г. − создана программа «Элиза» − виртуальный собеседник, имитирующая речевое поведение психотерапевта.

1974 г. − состоялся первый международный шахматный турнир вычислительных машин (победу на котором одержала советская программа «Каисса»).

1997 г. – программа Deep Blue победила чемпиона мира по шахматам.

2005 г. − состоялись гонки беспилотных автомобилей DARPA Ground Challenge, в рамках которого автомобили прошли маршрут длиной в 211 км без человека-водителя.

2011 г. – программа Watson победила бессменных чемпионов в интеллектуальной игре «Jeopardy» (аналога «Своей игры» в России).

2016 г. – программа Alpha Go обыграла чемпиона мира по игре ГО.

Основные вехи и достижения в рамках нейрокибернетического подхода:

1956 г. − в MTI создана первая в мире компьютерная модель нейронной сети.

1985 г. − создан первый коммерческий нейрокомпьютер «Марк III») (TRW, США).

1995 г. − создан нейрокомпьютер Neuro-Turbo (Fujitsu, Япония), моделирующий работу 1000 нейронов.

2009 г. – осуществлено моделирование 1 миллиона нейронов и 10 триллионов синапсов, что соответствует примерно мозгу кошки или 4% человеческого мозга (проект SyNAPSE).

2012 г. – осуществлено моделирование работы 2,5 миллиона нейронов, разделяемых по функциональности в соответствии с отделами головного мозга (проект SPAUN).

2014 г. − создан нейрокомпьютерный процессор, включающий в свой состав 1 миллион программируемых нейронов и 256 миллионов синапсов.

Последним, широко разрекламированным достижением в области ИИ, является создание американской фирмой Open AI чат-бота Chat GPT (Generative Pre-Trained Transformer).

Подробнее об этом — в следующем материале нашего обзора.

Андрей Кибернович

Мнение редакции может не совпадать с мнением автора

Стилистика, орфография и пунктуация публикации сохранены