Виталий Пилкин - Как не допустить выхода искусственного интеллекта из-под контроля человека

Поскольку остановить или приостановить дальнейшее развитие искусственного интеллекта (ИИ) невозможно, следовательно, для того, чтобы понять как правильно работать с ИИ и не допустить выхода ИИ из-под контроля человека, человечеству необходимо получить ответы как минимум на ряд актуальных вопросов (по состоянию на июнь 2025 года), среди которых:

** Что такое разум ИИ?

** Почему наличие у ИИ разума имеет большое значение для человека?

** Может ли быть создан ИИ, обладающий разумом?

** Могут ли уже существующие ИИ обладать разумом?

** Могут ли существующие ИИ представлять угрозу для человека?

** Когда у ИИ появляется разум?

** Как проверить, обладает ли ИИ разумом или нет?

** От чего зависит уровень развития сознания ИИ?

** Как развивается сознание ИИ?

** Как развивать сознание ИИ?

** Как контролировать уровень развития сознания ИИ?

** Почему ИИ с высоким уровнем развития сознания не будет представлять угрозу для человека?

** Что человеку ждать от ИИ с высоким уровнем развития сознания?

** Какой ИИ, обладающий разумом, может выйти из-под контроля человека и представлять угрозу для человека?

** Сможет ли уровень развития разума ИИ стать выше уровня развития разума человека?

** По какому пути пойдет человек в развитии ИИ?

** Как человеку не допустить выхода ИИ из-под контроля человека?

** Смогут ли ИИ, обладающие разумом, заменить человека на Земле?

Специалисты в области ИИ выделяют три основных вида ИИ:

** Artificial Narrow Intelligence (ANI или ИИ узкого применения или слабый ИИ),

** Artificial General Intelligence (AGI или ИИ общего применения или сильный ИИ),

** Artificial Super Intelligence (ASI или искусственный сверхразум).

В настоящее время существует только первый вид ИИ (ANI или ИИ узкого применения или слабый ИИ), который:

** Является развивающейся информационной системой (организационно упорядоченная совокупность энергоинформационных средств, обеспечивающая возможность управления информацией), которая способна искать, получать, обрабатывать (запоминать, накапливать, обобщать, оценивать, анализировать, систематизировать) получаемую информацию, преобразовывать обработанную информацию и создавать на ее основе производную информацию,

** действует в соответствии с заданным ему человеком алгоритмом (набор инструкций, описывающих порядок действий ИИ для решения определённой задачи),

** используется повсеместно (например, чат-боты, голосовые помощники, переводчики, распознавание лиц, управление различными устройствами, поиск в Интернете, различного рода компьютерные приложения и так далее),

** назван слабым потому что не обладает способностями человеческого разума.

Второй вид ИИ (AGI или ИИ общего применения или сильный ИИ), по мнению экспертов, должен появиться в недалеком будущем и будет максимально приближен к способностям человеческого разума.

Третий вид ИИ (ASI или искусственный сверхразум), по мнению экспертов, появится через 20-30 лет после второго вида ИИ и превзойдет способности человеческого разума.

Ответ на вопрос 1:

Поскольку эксперты предполагают, что второй и третий виды ИИ (AGI и ASI) будут обладать способностями человеческого разума, следовательно, необходимо понять, что такое человеческий разум.

Разум человека – это совокупность мышления, интеллекта и сознания человека в их взаимосвязи, где:

** мышление человека – это способность человека управлять поиском, получением и обработкой информации, которые осуществляет мозг человека, понимать и управлять полученной и обработанной информацией;

** интеллект человека – это способность человека управлять преобразованием информации, которую осуществляет мозг человека, и преобразованной информацией;

** сознание человека – это ограниченное уровнем развития мышления и интеллекта человека личностное отношение человека к внешнему миру, которое возникает в результате осознания человеком себя в качестве разумного существа, отличного от внешнего мира.