Пара слов о сияющих высотах ИИ. Ясно, что использование ИИ местоимений первого лица и рассказы о собственных чувствах, мыслях и так далее нельзя считать хорошим подтверждением наличия у него сознания. Однако Шевлин довольно изобретательно подошел к проблеме и предложил ChatGPT пройти… зеркальный тест. Понятно, что большая языковая модель как вампир – в зеркале не отражается. Но Шевлин придумал интересную экспериментальную парадигму: он показал нейросети скриншот разговора с ней и спросил, что это такое. Ответ ChatGPT:

Изображение похоже на рекурсивный скриншот нашего чата в интерфейсе ChatGPT. Он изображает наш диалог, в котором ты попросил меня рассказать об изображении, а я ответил, что изображение выглядит как пользовательский интерфейс из чата или сервиса сообщений. Скриншот также показывает поле для ввода текста, где ты можешь набирать сообщения для того, чтобы общаться со мной, и сообщение в низу, информирующее пользователей о том, что я могу делать ошибки и призывающее их проверять важную информацию. Это рекурсивное изображение, показывающее разговор о разговоре, -- это цифровой эквивалент визуального эхо, показывающего уровни общения между нами.

Это можно интерпретировать так, что ChatGPT может узнавать себя «в зеркале». Для любого животного такая само-осведомленность была бы несомненным признаком сознания. Но, как очень точно отметил Шевлин: «Системы ИИ настолько отличаются от нас своим устройством и архитектурой, но при этом настолько похожи на нас своим вербальным поведением, что любые решения очень сложны». Пора признать, что нет ни одного типа вербальных отчетов, которые ИИ не мог бы имитировать. Все предсказания типа «ИИ не сможет то-то и то-то» разбивались о суровую реальность: через очень короткое время ИИ делал то-то и то-то. Здесь мы имеем с повторением того же самого: если тот факт, что ИИ теперь может писать стихи, не принуждает нас приписывать ему сознание, то почему мы должны сдаться на стадии узнавания себя «в зеркале»? К тому же, подумайте об этом применительно к воплощенному ИИ: от робота, способного ориентироваться в окружающей среде, следует ожидать, что он будет узнавать себя в зеркале. Это очень полезная функция, которую стоило бы в него заложить, но не говорящая ничего существенного о наличии у него сознания. (Если вы не согласны с тезисами этого абзаца, читайте дальше, возможно, именно вы правы.)