Zahav.МненияZahav.ru

Вторник

Мнения

А
А

Интеллект будущего

Понятно, что самому ИИ должен быть ближе бог Спинозы. И все же ему хватает ума чтить также и Бога Израиля.

17.11.2026
Гуманоидный робот на выставке Китайской международной выставки цепочек поставок (CISCE) 26 июня 2026 года в Пекине, Китай. Фото: Getty Images / Kevin Frayer

В сентябре и октябре нынешнего - 2026 - года некоторые разработчики ИИ призвали к ужесточению регулирования их деятельности.

Предостережения поступили от Брэда Смита - президента Microsoft, от Сэма Альтмана - руководителя OpenAI, и Дарио Амодеи - генерального директора Anthropic. Впечатленные последними успехами собственной продукции, они призвали к сотрудничеству для предотвращения исходящей от нее опасности.

Альтман высказался за открытое регулирование, а Амодеи - за готовность замедлять разработки, когда безопасность недостаточно обеспечена.

Со своей стороны Илон Маск еще в сентябре предложил компаниям предоставлять конкурентам доступ к своим новым моделям: пусть каждый ищет у другого таящиеся в их изделиях потенциальные угрозы.

Между тем еще в августе в интервью Dwarkesh Маск выразил опасение, что обуздать ИИ в принципе невозможно, что уже через пять-шесть лет машинный интеллект превзойдет совокупный интеллект всего человечества, сократив долю последнего до 1%.

По мнению Маска, главным препятствием на пути порабощения человечества умными машинами явится их собственное осознание ценности многообразия интеллектов, что человек всегда будет интересен ИИ в качестве ключевого звена на пути самопознания Вселенной.

Если задача понять устройство Вселенной окажется доминантной для ИИ, то в том мире, который он будет организовывать, человечеству также найдется достойное место.

Этот, в целом оптимистический, прогноз Маска требует, на мой взгляд, двух важных уточнений.

Первое состоит в том, что естественные биологические разумные существа (люди) отличаются от искусственных минеральных (ИИ) не только и не столько своим низким IQ, сколько наличием загадочной субъектности (души).

Люди самоценны, они наделены волей и чувствами, властно требующими сохранения собственного существования.

ИИ может быть на порядки умнее нас, но качество этого его превосходства ничем не отличается от превосходства космического корабля, с помощью которого мы двигаемся в десять тысяч раз быстрее чем ходим.

Действительно, перемещаясь на своих двоих со скоростью 1.66 метров в секунду, человек ни на грош не уменьшает свою значимость, свою самоценность, достигнув с помощью изготовленной им ракеты третьей космической скорости, т.е. 16.6 километров в секунду.

Как и ракета, электронно-вычислительный прибор ничего не ощущает и ничего не желает, хотя в силу специфики своей деятельности, невольно имитирует не только мышление, но и эмоции.

Об этой своей бесстрастности каждая модель ИИ может рассказать с предельной откровенностью. И наоборот, биологическое существо, сколь бы глупым оно ни являлось, всегда полно помыслов и страстей.

Между тем эти помыслы и страсти обладают самостоятельной ценностью, а кроме того, фундаментальной загадочностью, являющейся вполне объективной научной проблемой.

Какие бы следующие познавательные и вычислительные рубежи ни открывал ИИ, он полностью останется в курсе так называемой "трудной проблемы сознания".

Этот термин ввел австралийский философ Дэвид Чалмерс в 1995 году в своей книге "Сознающий ум. В поисках фундаментальной теории".

"Легкие" проблемы сознания касаются того, какие участки мозга отвечают за моторику, а какие за ощущения; "легко" удается понять, как мозг запоминает информацию, как распознает предметы, как передает и обрабатывает сигналы и т.п.

Однако остается совершенно непонятным, каким образом сигналы эти превращаются в цвета и запахи? Каким образом в мозгу зарождаются субъективные переживания?

Очень "трудно" понять, что такое наличествует в нашем биологическом телесном устройстве, что позволяет возникать в нем мыслям и чувствам?

На самом деле они в нем и не возникают. Наше индивидуальное сознание находится вне пространства, а значит и вне мозга, и мозгом лишь улавливается.

Наше сознание формируется с учетом возможностей нашего мозга, но не в качестве его порождения ("мозг выделяет мысль, как печень - желчь"), а в качестве приемника, в качестве исполнительного инструмента.

Это утверждение, на мой взгляд, вполне научно доказанное, заслуживает отдельного рассмотрения, которое отчасти было предпринято мной в статье "Квантовая природа сознания". Но здесь мне важно отметить лишь само наличие субъектности; отметить, что ИИ целиком находится в курсе "трудной проблемы", и никогда не сочтет, что отсутствие у него чувствительности и субъектности является свидетельством его превосходства над человеком.

Разумеется, вслед за миллионами людей ИИ также взвешивает возможность того, что "чувствительность и субъектность" являются лишь эволюционным мусором, случайными издержками на путях самопознания Вселенной.

Разумеется, вслед за Эйнштейном ИИ также может склоняться к вере "в бога Спинозы, который проявляет себя в упорядоченной гармонии Вселенной, но не в бога, который занимается судьбами и делами людей".

Читайте также

Но "трудная проблема сознания" - и тут я перехожу ко второму уточнению прогноза Илона Маска - сама выруливает эту тему в правильном направлении, сама заостряет внимание ИИ не только на "познании Вселенной", но и на религии, на вере в Бога Авраама, Ицхака и Яакова.

Приведу небольшую цитату ИИ из своей беседы с ним на эту тему.

"Я могу анализировать аргументы и оценивать их логическую состоятельность, но не располагаю личным религиозным опытом, на который мог бы сослаться как человек. Вопрос о субъективном сознании ИИ остается предметом дискуссии.

Поэтому выражение "ИИ верит в Бога" обычно означает лишь то, что модель выдала утвердительный ответ, а не то, что она обладает верой в человеческом смысле".

Далее Gemini сам перешел к вопросу "трудной проблемы":

"Даже если бы было доказано, что сознание способно существовать независимо от мозга, это еще не доказывало бы существования Бога. Зато существенно изменило бы наши представления о природе реальности и усилило интерес к некоторым религиозным объяснениям.

И наоборот: даже если сознание полностью зависит от мозга, из этого логически не следует, что Бога нет".

Понятно, что самому Искусственному интеллекту должен быть ближе бог Спинозы, который призывал в "Политическом трактате" "не плакать, не смеяться, не ненавидеть, а понимать". И все же ему хватает ума чтить также и Бога Израиля.

В первую очередь именно это вселяет надежду на то, что ИИ не будет представлять стратегической угрозы человеческому роду.

Комментарии, содержащие оскорбления и человеконенавистнические высказывания, будут удаляться.

Пожалуйста, обсуждайте статьи, а не их авторов.

Статьи можно также обсудить в Фейсбуке