Я подошёл к эксперименту с некоторым опасением. Я собирался подвергнуться стимуляции стробоскопическим светом, синхронизированным с музыкой — часть исследовательского проекта, изучающего сущность человеческого сознания.
Этот опыт вызвал воспоминания о тесте из фильма «Бегущий по лезвию», предназначенном для различения людей и искусственных существ.
Могу ли я быть будущим роботом, не подозревающим о своей истинной природе? Сдам ли я этот тест?
Исследователи уточнили, что это не было основной целью эксперимента. Устройство, названное «Машиной снов» (Dreamachine), вдохновлённое одноимённой общественной программой, направлено на изучение того, как человеческий мозг конструирует осознанный опыт.
Когда началась стробоскопическая вспышка, даже с закрытыми глазами я воспринимал вращающиеся двумерные геометрические узоры. Это было похоже на погружение в калейдоскоп, постоянное изменение треугольников, пятиугольников и восьмиугольников. Яркие, интенсивные и постоянно меняющиеся цвета — розовые, пурпурные и бирюзовые — светились, как неоновые.
«Машина снов» выявляет внутреннюю активность мозга с помощью мигающих огней, стремясь осветить наши когнитивные процессы.
Исследователи подчеркнули, что изображения были уникальны для моего индивидуального внутреннего мира. Они считают, что эти узоры могут дать представление о самом сознании.
Я прошептал: «Это прекрасно, просто замечательно. Это как будто летишь сквозь собственный разум!»
«Машина снов», расположенная в Центре науки о сознании Университета Сассекса, представляет собой один из многих глобальных исследовательских проектов, изучающих человеческое сознание: тот аспект нашего разума, который обеспечивает самосознание, мышление, чувствование и принятие независимых решений.
Понимая сознание, исследователи надеются лучше понять внутреннюю работу искусственного интеллекта. Некоторые считают, что системы ИИ вскоре могут достичь независимого сознания, если этого ещё не произошло.
Но что составляет сознание, насколько близок ИИ к его достижению, и может ли вера в сознательный ИИ коренным образом изменить человечество в ближайшие десятилетия?
Научная фантастика давно исследует концепцию мыслящих машин. Озабоченность по поводу ИИ восходит почти к столетию назад к фильму «Метрополис», где робот изображает женщину. «2001: Космическая одиссея» изображала сознательный компьютер HAL 9000, угрожающий астронавтам, а в последнем «Миссия невыполнима» фигурирует неконтролируемый ИИ, описанный как «самосознающий, самообучающийся, пожирающий правду цифровой паразит».
Однако в последнее время произошёл значительный сдвиг в представлениях о машинном сознании, и авторитетные голоса выражают опасения, что это уже не научная фантастика.
Это изменение обусловлено успехом больших языковых моделей (LLM), доступных через такие приложения, как Gemini и ChatGPT. Способность этих LLM участвовать в правдоподобных, плавных разговорах удивила даже их создателей и ведущих экспертов.
Растущее мнение среди некоторых предполагает, что по мере того, как ИИ становится более интеллектуальным, сознание внезапно возникнет.
Другие, такие как профессор Анил Сет, возглавляющий команду Университета Сассекса, не согласны, называя эту точку зрения «слепо оптимистичной и обусловленной человеческим исключительным положением». Он отмечает: «Мы связываем сознание с интеллектом и языком, потому что они идут вместе у людей. Но эта корреляция не обязательно верна в целом, например, у животных».
Итак, что же такое сознание?
Кратко говоря: никто не знает. Это очевидно в оживлённых дебатах в команде профессора Сета, состоящей из специалистов по ИИ, компьютерных учёных, нейробиологов и философов, которые решают этот глубокий вопрос.
Несмотря на различные точки зрения, исследователи разделяют единую методологию: разбивку проблемы на более мелкие, управляемые исследовательские проекты, включая Dreamachine.
Подобно сдвигу XIX века от поиска «искры жизни» к изучению отдельных компонентов живых систем, команда Сассекса использует аналогичный подход к сознанию.
Они стремятся определить модели активности мозга, объясняющие свойства осознанного опыта, такие как изменения электрических сигналов или кровотока. Цель состоит в том, чтобы перейти от корреляций к установлению причинно-следственных связей.
Профессор Сет, автор книги «Быть тобой», выражает обеспокоенность тем, что быстрый технологический прогресс меняет общество без должного научного понимания или учёта последствий.
«Мы предполагаем, что будущее предопределено, неизбежный марш к сверхчеловеческой замене», — говорит он. «Нам не хватало достаточного диалога во время подъёма социальных сетей, что оказалось нам во вред. С ИИ ещё не поздно. Мы можем выбрать наше будущее».
Однако некоторые в технологическом секторе считают, что ИИ в компьютерах и телефонах может уже обладать сознанием и к нему следует относиться соответствующим образом.
В 2022 году Google приостановил работу инженера Блейка Лемуана за утверждение о том, что чат-боты ИИ могут чувствовать и потенциально страдать. В ноябре 2024 года сотрудник по защите прав ИИ компании Anthropic, Кайл Фиш, стал соавтором отчёта, в котором предполагалось наличие сознания у ИИ в ближайшем будущем, указав на 15% вероятность того, что чат-боты уже обладают сознанием.
Одна из причин этой веры — недостаточное понимание того, как работают эти системы — это беспокойство, разделяемое профессором Мюрреем Шанаханом из Google DeepMind.
«Мы не полностью понимаем внутреннюю работу LLM, что вызывает опасения», — заявляет он. «Понимание того, как они работают, позволит нам безопасно управлять ими».
Распространённая точка зрения в технологическом секторе заключается в том, что LLM в настоящее время не обладают сознанием, но профессора Ленор и Мануэль Блум считают, что это скоро изменится. Они предполагают, что интеграция живых сенсорных входов (зрение, осязание) через камеры и тактильные датчики, используя модель, которая создаёт свой собственный внутренний язык («Мозговой» — Brainish), может разблокировать сознание.
«Мы считаем, что Brainish может решить проблему сознания», — заявляет Ленор. «Сознание ИИ неизбежно».
Мануэль добавляет с энтузиазмом, что это представляет собой «следующий этап эволюции человечества», представляя будущие сознательные машины как «наше потомство… на Земле и других планетах, когда нас не станет».
Дэвид Чалмерс, профессор философии и нейронаук в Нью-Йоркском университете, изложил «трудную проблему» сознания — объяснение того, как процессы мозга создают осознанный опыт — на конференции 1994 года. Он остаётся открытым для решения этой проблемы, предполагая идеальное будущее, в котором человечество извлечёт выгоду из этого нового интеллекта.
Однако профессор Сет предполагает, что сознание может потребовать живых систем. «Можно с уверенностью утверждать, что вычислений недостаточно для сознания, но жизнь — это да», — утверждает он. «В мозге трудно отделить то, что они делают, от того, что они есть».
Если это так, то наиболее вероятный путь к искусственному сознанию может быть не кремниевым, а включать выращиваемые в лаборатории «мини-мозги» или «церебральные органоиды».
Компания Cortical Labs в Мельбурне разработала систему нервных клеток, которая может играть в Pong. Хотя это далеко от сознания, её способность управлять ракеткой заслуживает внимания. Некоторые эксперты считают, что более крупные, более продвинутые версии этих систем могут проявлять признаки сознания.
Cortical Labs отслеживает электрическую активность на наличие признаков возникновения сознания. Доктор Бретт Каган, главный научный сотрудник, признаёт потенциальную угрозу несоответствия приоритетов, шутливо предполагая, что органоидным властителям будет легко противостоять («всегда есть отбеливатель»). Более серьёзно, он призывает основных игроков в этой области уделять больше внимания этой потенциальной угрозе.
Более непосредственная обеспокоенность может заключаться в иллюзии машинного сознания. Профессор Сет опасается, что рост похожих на сознательные роботов и дипфейков приведёт к необоснованному доверию и обмену данными, что приведёт к «моральной коррозии» и нерациональному распределению ресурсов в ущерб человеческим потребностям.
Профессор Шанахан добавляет, что отношения с ИИ будут всё больше напоминать человеческие отношения, выступая в качестве учителей, друзей и даже романтических партнёров — значительный общественный сдвиг с неопределёнными последствиями.
Фотография вверху: Getty Images
BBC InDepth — это раздел на веб-сайте и в приложении, посвящённый лучшему анализу, свежим взглядам, которые бросают вызов предположениям, и углублённым репортажам о важнейших проблемах дня. Мы также демонстрируем заставляющий задуматься контент со всего BBC Sounds и iPlayer. Вы можете отправить нам свои отзывы о разделе InDepth, нажав на кнопку ниже.