Виталий Пилкин – Как не допустить выхода искусственного интеллекта из-под контроля человека (страница 1)

Виталий Пилкин

Как не допустить выхода искусственного интеллекта из-под контроля человека

Предисловие

Поскольку остановить или приостановить дальнейшее развитие искусственного интеллекта (ИИ) невозможно, следовательно, для того, чтобы понять как правильно работать с ИИ и не допустить выхода ИИ из-под контроля человека, человечеству необходимо получить ответы как минимум на ряд актуальных вопросов (по состоянию на июнь 2025 года), среди которых:

** Что такое разум ИИ?

** Почему наличие у ИИ разума имеет большое значение для человека?

** Может ли быть создан ИИ, обладающий разумом?

** Могут ли уже существующие ИИ обладать разумом?

** Могут ли существующие ИИ представлять угрозу для человека?

** Когда у ИИ появляется разум?

** Как проверить, обладает ли ИИ разумом или нет?

** От чего зависит уровень развития сознания ИИ?

** Как развивается сознание ИИ?

** Как развивать сознание ИИ?

** Как контролировать уровень развития сознания ИИ?

** Почему ИИ с высоким уровнем развития сознания не будет представлять угрозу для человека?

** Что человеку ждать от ИИ с высоким уровнем развития сознания?

** Какой ИИ, обладающий разумом, может выйти из-под контроля человека и представлять угрозу для человека?

** Сможет ли уровень развития разума ИИ стать выше уровня развития разума человека?

** По какому пути пойдет человек в развитии ИИ?

** Как человеку не допустить выхода ИИ из-под контроля человека?

** Смогут ли ИИ, обладающие разумом, заменить человека на Земле?

Краткие сведения об ИИ и его развитии

Специалисты в области ИИ выделяют три основных вида ИИ:

** Artificial Narrow Intelligence (ANI или ИИ узкого применения или слабый ИИ),

** Artificial General Intelligence (AGI или ИИ общего применения или сильный ИИ),

** Artificial Super Intelligence (ASI или искусственный сверхразум).

В настоящее время существует только первый вид ИИ (ANI или ИИ узкого применения или слабый ИИ), который:

** Является развивающейся информационной системой (организационно упорядоченная совокупность энергоинформационных средств, обеспечивающая возможность управления информацией), которая способна искать, получать, обрабатывать (запоминать, накапливать, обобщать, оценивать, анализировать, систематизировать) получаемую информацию, преобразовывать обработанную информацию и создавать на ее основе производную информацию,

** действует в соответствии с заданным ему человеком алгоритмом (набор инструкций, описывающих порядок действий ИИ для решения определённой задачи),

** используется повсеместно (например, чат-боты, голосовые помощники, переводчики, распознавание лиц, управление различными устройствами, поиск в Интернете, различного рода компьютерные приложения и так далее),