Искусственного интеллекта в человеческом смысле не существует

Термин искусственный интеллект стал привычным, но он также вводит в заблуждение.

Когда большинство людей слышит слово интеллект, они думают о человеческом интеллекте: осознании, понимании, суждении, намерении, опыте, эмоциях, совести, ответственности и моральном выборе.

Современные системы ИИ не обладают этими вещами.

Они не думают как люди. Они не знают, что говорят. У них нет убеждений, желаний, гнева, страха или намерения. Они не принимают моральных решений и не обладают человеческим пониманием.

Прикладная информационная система получает входные данные, обрабатывает шаблоны, сравнивает контекст, применяет изученные структуры и производит результат. Она может быть полезной, быстрой и впечатляющей, но это не делает её живой, сознательной или разумной в человеческом смысле.

Это не разум. Это не человек. Это не авторитет. Это не моральный субъект. Это инструмент.

Прикладная информационная система может выполнять множество полезных задач.

• Обрабатывать письменный язык
• Распознавать шаблоны в тексте
• Суммировать информацию
• Переписывать неясный материал
• Переводить между языками
• Помогать составлять письма, отчёты, статьи и объяснения
• Помогать с программированием и отладкой
• Организовывать идеи
• Сравнивать варианты
• Создавать примеры
• Отвечать на вопросы на основе шаблонов в данных
• Помогать объяснять технические темы
• Помогать в планировании
• Помогать искать в больших объёмах информации
• Форматировать документы
• Создавать структурированные планы
• Выявлять возможные ошибки
• Предлагать альтернативы
• Имитировать разговор
• Создавать текст, похожий на человеческий

Эти возможности могут быть ценными. Они могут экономить время. Они могут помогать людям обдумывать проблемы. Они могут делать техническую информацию более понятной.

Но всё это не означает, что система является «интеллектуальной» в человеческом смысле.

Прикладная информационная система не является:

• Сознательной
• Самосознающей
• Живой
• Человеком
• Эмоциональной
• Моральной
• Ответственной
• Мудрой
• Всезнающей
• Судьёй истины
• Заменой человеческому суждению
• Личностью
• Другом в человеческом смысле
• Духовным авторитетом
• Юридическим авторитетом
• Медицинским авторитетом
• Политическим авторитетом
• Существом с намерением
• Существом с независимой волей

Она ничего не «хочет». Она не «решает» в человеческом смысле. Ей не «важно», правильный ответ или нет. Она производит результат на основе входных данных, обучающих шаблонов, правил, вероятностей, контекста и конструкции системы.

Фраза искусственный интеллект заставляет людей представлять то, чего на самом деле не существует. Она намекает на машинный разум. Это неправильный образ.

Лучший образ — очень продвинутый инструмент обработки информации. Он может быстро работать с языком и шаблонами, но не обладает осознанием.

Опасность термина «ИИ» в том, что он вызывает две противоположные ошибки. Некоторые люди чрезмерно доверяют ему и относятся к нему так, будто он обязательно прав. Другие боятся его и относятся к нему как к мыслящему врагу.

Обе точки зрения неверны. Это не бог и не чудовище. Это инструмент.

Когда инструмент используется плохо, ответственность лежит на людях.

Молоток не строит дом сам по себе. Телефон не совершает мошенничество сам по себе. Автомобиль не решает сам ехать безрассудно. Компьютерная программа не становится морально ответственной только потому, что человек плохо её использовал.

То же самое верно и здесь. Если человек неправильно использует прикладную информационную систему, вопрос заключается в человеческом действии, обстоятельствах, мерах защиты, контроле, суждении и намерении человека, который её использует.

Сам инструмент не имеет гнева, мести, ненависти, преступного намерения или воли. У людей это бывает.

Общественный страх растёт, когда люди неправильно понимают, что представляют собой эти системы.

Если люди верят, что машина «думает», «строит планы», «решает» или «хочет», они уже не имеют дела с реальностью. Они реагируют на миф.

Этот миф может привести к плохой политике, плохой журналистике, плохому регулированию и общественной панике.

Нам нужен ясный язык. Нам нужно перестать притворяться, что прикладные информационные системы являются человекоподобными разумами. Это не так.

Это мощные инструменты, требующие ответственного использования, но они всё равно остаются инструментами.

Практическое определение могло бы быть таким:

Это гораздо точнее, чем сказать: искусственный интеллект — это мыслящая машина. Потому что это не мыслящая машина. Это система обработки информации.

Прикладные информационные системы следует использовать осторожно. Их следует рассматривать как помощников, а не как авторитеты.

Ответственный пользователь должен:

• Проверять важные факты
• Использовать человеческое суждение
• Избегать слепого доверия
• Избегать эмоциональной зависимости
• Понимать, что система может ошибаться
• Использовать её как инструмент, а не как замену совести
• Оставлять ответственность за человеческим пользователем
• Проявлять особую осторожность в юридических, медицинских, финансовых, политических или связанных с безопасностью вопросах

Это не потому, что система тайно живая или опасная. Это потому, что люди могут неправильно использовать инструменты, неправильно понимать их или полагаться на них за пределами их надлежащих возможностей.

Искусственный интеллект, каким многие люди его представляют, не существует.

Внутри машины нет человекоподобного разума. Нет сознания. Нет намерения. Нет моральной субъектности. Нет человеческого интеллекта.

Существует прикладная информация: информация, обработанная через шаблоны, правила, вероятность, контекст и программное обеспечение.

Это может быть полезно. Это может быть мощно. Это также может быть использовано неправильно. Но ответственность остаётся человеческой.

Мы не должны бояться прикладных информационных систем так, будто они живые существа. Мы не должны поклоняться им так, будто они высшие разумы. Мы не должны обвинять их так, будто у них есть моральное намерение.

Мы должны ясно понимать их, использовать ответственно и сохранять ответственность людей за человеческие действия.

Опасность не в том, что инструмент стал человеком. Опасность в том, что люди могут забыть, что он им не стал.