Так что, похоже, я на тонком льду, но посмотрим, к чему это нас приведет.
Мы говорим о разнице между людьми и ИИ или, если на то пошло, между людьми и спортивным тостером с умной камерой и ИИ, по крайней мере, в том, что касается истинного разума. Я думаю, что утверждение, в которое в глубине души, по сути, верят многие ученые и исследователи, о том, что "однажды" ИИ могут стать сознательными, основано исключительно на том факте, что мы сознательны ("так что это должно быть возможно"), а не на каких-либо реальных многообещающих предположениях.
Ниже мы увидим, почему.
Никогда не говори никогда, конечно. Но почему я думаю, что никогда мы не сможем объяснить сознание даже на более глубоком уровне сложности, чем квантовая механика и микротрубочки?
Сознание
Сознание - это то удивительное чувство самосознания, которое, по-видимому, есть у нас, людей. Мы вроде знаем, что мы здесь. Это очень ярко, и трудно отрицать, что это реально. Это требует объяснения. И это очень актуально, учитывая невероятные новые прорывы в области искусственного интеллекта.
Является ли ИИ, станет ли ИИ сознательным? Как биофизик с докторской степенью и специалист по искусственному интеллекту, я фанат многих вещей, которые происходят во Вселенной, а также технологий, которые мы изобретаем. Сознание подобно гравитации. Это так легко принять как должное. По крайней мере, пока ты не спишь, оно всегда с нами. Но, в отличие от гравитации, мы даже не можем доказать друг другу, что обладаем сознанием.
Можем ли мы все быть действительно умными компьютерными программами? Кроме меня, конечно. Я единственный разумный. Сознание - это не просто бодрствование и сон. Дело в том, что мы знаем, что мы здесь и что-то делаем, и у нас есть ощущение, что мы все контролируем. Наука пока не может это объяснить. С научной точки зрения это не похоже на то, что вы могли бы предсказать. Это не похоже на то, что какой-то будущий сверхразумный бесстрастный, но неразумный ИИ однажды скажет, размышляя о вселенной: "Эй, я только что подсчитал, что люди должны воспринимать реальность очень ярко. А у вас есть эта штука?".
Я не думаю, что в ближайшее время GPT самостоятельно придумает эту идею. И не из-за каких-то ограничений в интеллекте. Почему мы вообще должны ожидать от ИИ то, что мы, несомненно, воспринимаем как сознание? Я имею в виду, что мы просто биологические роботы, которые что-то чувствуют и на что-то реагируют. Это странное явление.
Зрительное сознание
Визуальное сознание - это совершенно новая игра с мячом. Видение - это не просто смутное "ощущение", что я здесь. Я вижу такие вещи постоянно. Я утверждаю, что визуальное сознание - самое глубокое явление во Вселенной. (Конечно, я действительно имею в виду сознание как "самую глубокую вещь во вселенной", оно охватывает все чувства и внутреннюю обработку, но визуальное сознание намного ярче.)
Действительно? Самая глубокая? Вы понимаете, что я имею в виду, или вы, как некоторые или, может быть, многие люди, принимаете свое сознание, особенно визуальное, как должное?
В отличие от системы компьютерного зрения, мы, люди, не просто получаем список объектов в поле зрения с 2D- или 3D-координатами в этом поле. Мы действительно можем воспринимать поле зрения. Я абсолютно уверен, что никакой ИИ никогда не сможет этого сделать. Фактическое видение и просто обработка пикселей - две очень разные вещи, которые происходят у людей. Нет абсолютно никаких причин ожидать, что эта "второстепенная" функция станет преимуществом нашей визуальной системы. И это приходит с реальным восприятием!
Происхождение сознания
Это, конечно, связано с более широкой картиной самосознания, но визуальное разнообразие настолько яркое, что я думаю, это практически сверхъестественно. Конечно, наука продолжает объяснять вещи, которые наши предки считали магией или Богом. Но с сознанием я действительно думаю, что мы встретили что-то иное. Традиционные объяснения включают в себя не более чем простые предположения, связанные со сложностью систем, нейрофизиологическими наблюдениями, такими как Bereitschaftspotential (предсознательные нейронные возбуждения), квантовой запутанностью, гипотезой Роджера Пенроуза о том, что сознание "не является вычислительным", и различными поисками биологического местонахождения сознания в, например, клеточных микротрубочках или специфических фискальных частях нашего мозга.
Ни одна из этих гипотез не приближается к объяснению того, что именно из них является местопребыванием сознания и что оно собой представляет в первую очередь. Таким образом, эти варианты выше - не более чем подозрения.
Однако вы должны с чего-то начать. Как физик, биофизик и исследователь искусственного интеллекта, какими бы увлекательными ни были эти предложения и наблюдения, я даже отдаленно не нахожу их многообещающими или правдоподобными. Тем не менее я большой поклонник обдумывания проблем.
Но ни я, ни кто-либо другой просто не может понять хотя бы немного правдоподобный механизм, объясняющий тот факт, что я могу воспринимать зрительный ввод моего глаза как поле зрения. Количественно это ничем не отличается от того факта, что я воспринимаю звуки как звук, запахи как запах, прикосновение как прикосновение. Но качественно зрение представляет собой именно такое яркое явление. И восприятие цвета как цвета. Нынешние попытки объяснения ни в малейшей степени не касаются того, почему у нас вообще должно быть такое восприятие. Мы не ожидаем, что спроектированная система, био- или кремниевая, действительно будет воспринимать весь свой разнообразный ввод этими разными способами - если таковые имеются - сознательно.
Даже если здесь замешана квантовая механика или микротрубочки, ну и что? Зачем им создавать ощущение, что я реальный человек, глядящий своими глазами и ощущающий, что я реальная сущность? Что происходит на самом деле?
На уровне науки происходит то, что исследователи пытаются объяснить наблюдаемое явление. Мы все согласны с тем, что у нас есть чувство самосознания. Оно существует, поэтому должен быть механизм. Многие из нас (около четверти, судя по моим неподтвержденным опросам моей семьи, друзей и коллег) по размышлении признают, что зрительное восприятие и сознание - явление неожиданное и удивительное. Я думаю, что другие 3/4 обманывают себя, но, может быть, себя обманываю я?
Так что же происходит на самом деле? Я не знаю наверняка, но, в конце концов, сознание наводит на мысль, что есть нечто большее, чем вычислительные механизмы нашего мозга, подключающиеся к нашему разуму. В противном случае, почему бы нам всем не ожидать, что наш пульт от телевизора будет сознательным, или система полного автономного вождения Tesla, или модель языковой нейронной сети, такая, как GPT?
Сознание, представленное зрительным восприятием, подобно "персту Бога". Что бы это ни было, это невероятно и, возможно, не связано с квантовой механикой или микротрубочками. Я не думаю, что варианты, подобные "Илону Маску", не обсуждаются, включая то, что вселенная является симуляцией, или что Бог существует, и наш мозг каким-то образом связан с нашей реальной "душой", или мы иным образом находимся в каком-то аватаре, или в игровой реальности воспринимаемой Вселенной. И я ученый с докторской степенью. Я думаю, утверждать, что это "ненаучное" мышление, - это уже слишком. Вы просто должны быть сумасшедшими, чтобы убрать такие объяснения со стола, когда дело доходит до сознания.
Одно мы знаем точно: ответ сознанию будет чем-то запутанным или причудливым.
Нейросеть против сознания
Некоторые из исследователей ИИ, которые думают, что нейросеть "уже сознательна", не усвоили тончайшие разновидности значений научного слова "сознание" или вообще не думали об этом глубоко и/или поэтому принимали сознание за, допустим, то, что для них это просто заурядное явление, такое как гравитация. Это происходит, так что это должно быть результатом какой-то странной биологии или физики, это просто то, что есть, и кого это волнует?
Настоящая ошибка заключается в том, что интеллектуальное понимание или генерация текста приравниваются к сознанию. Это действительно сильно обесценивает доказательную позицию сознания как невероятного феномена.
Нейросеть или понимание естественного языка - это круто, и до недавнего времени это было трудно достичь, и есть путь дальнейшего совершенствования. Но это не на том же уровне сознания. Ни одна из позиций не является отличным способом оценить или решить что-то. Объяснение типа "Бога пробелов" ненамного лучше, но, по крайней мере, такое объяснение предполагает, что происходит что-то невероятное. Думаю, что было бы лицемерием не признать, что мы полностью сбиты с толку, и все доказательства указывают на что-то действительно странное.
Тайна разума: объяснение семи ведущих теорий сознания
Журнал "Сториус"
От саморефлексии к квантовому сознанию
Природа сознания веками озадачивала и интриговала человечество. По мере того, как мы продвигаемся в понимании физического мира, вопрос о том, что значит быть сознательным, остается одним из самых сложных вопросов в современной науке. Несмотря на эту проблему, многие ведущие теоретики разработали убедительные объяснения феномена сознания. Эти теории стремятся ответить на вопросы о происхождении нашей внутренней жизни, об отношениях между разумом и мозгом и, казалось бы, о неразрешимой проблеме субъективного опыта.
В этой статье мы рассмотрим семь ведущих теорий сознания, углубимся в их сильные и слабые стороны и исторические корни.
Интегрированная теория информации: сознание как сеть информации
Теория интегрированной информации (ИИТ), разработанная нейробиологом Джулио Тонони в начале 2000-х годов, предполагает, что сознание возникает в результате интеграции информации в системе. Чем более взаимосвязана и дифференцирована информация в системе, тем выше степень сознательности.