Zahav.МненияZahav.ru

Пятница
Тель-Авив
+33+25
Иерусалим
+38+25

Мнения

А
А

"Когда мы сажаем террориста, мы просто обучаем нейросети"

Почему выдающийся израильский ученый не верит в свободу воли и как нам всем жить с этим пониманием.

01.05.2024
Источник:Детали
Фото: ShutterStock

Хаим Сомполински еще много лет назад обнаружил, что наш мозг и искусственные нейросети работают на одних и тех же принципах. Это позволило не только развивать искусственный интеллект, но гораздо лучше понять естественный. Профессор Сомполински рассказал "Деталям", как компьютеры и люди познают мир, почему в современной науке нет места свободе воли и как нам всем жить с этим пониманием. А еще дал несколько практических советов по работе с нашими собственными нейросетями в голове.

Искусственные нейронные сети за последние 10 лет перевернули мир, подарив нам ChatGPT, системы распознавания лиц, программы-переводчики, голосовых помощников, дипфейки и множество этических проблем. Но программисты мало интересуются тем, как эти нейросети устроены внутри. Практики воспринимают их как черный ящик: сначала мы этот ящик обучаем, потом даем нечто на входе и получаем нечто иное на выходе. Как именно программа добивается результатов, для них не важно.

Хаим Сомполински из Еврейского и Гарвардского университетов - один из тех, кому важно. И в том числе за это 74-летний профессор получит 30 мая Brain prize - главную в мире награду в сфере нейронауки.

Подписывайтесь на наш телеграм-канал: zahav.ru - события в Израиле и мире

- Ключевой вопрос в этой области: насколько наш интеллект в принципе основан на символах и правилах. Многие уверены, что в мозг как-то интегрирован набор языковых, грамматических, логических законов, и именно они делают возможным всякое сложное мышление и язык. Но для искусственного интеллекта все это оказалось совершенно не обязательным, - объясняет профессор Сомполински. - При этом, наоборот, все системы ИИ, которые пытались построить на базе правил и законов, провалились.

Построенные без жестких алгоритмов, обученные и натренированные компьютерные программы стали 10 лет назад прорывом не только в ИИ, но и в понимании нашего сознания. И оказались важным аргументом в пользу того, что, возможно, и у людей в мозгах никаких заранее заданных правил нет. Стоило принять такой подход, и искусственные нейросети вдруг оказались весьма достоверными моделями для изучения человеческого мышления.

- До этого прорыва у нас не было никакой модели, которая могла бы обработать реалистическую картинку и сказать: это собака, а это взрослый человек держит за руку ребенка, - рассказывает профессор Сомполински. - Без этого мы застряли на многие годы, пытаясь понять, как устроена наша система обработки визуальной информации. И вот 10 лет назад искусственные нейросети открыли дорогу для множества научных работ.

Хаим Сомполински и его исследовательская группа тоже занимаются проблемой анализа изображений: они применяют геометрические методы, смотрят, в каких конфигурациях взаимодействуют настоящие или искусственные нейроны, обрабатывая информацию.

- Например, понятие "ножницы", - профессор поднимает ножницы со стола. - Мы измеряем паттерны активности, которые представляют это понятие в искусственных нейросетях, и сравниваем с тем, как "ножницы" геометрически отображаются во взаимодействиях нервных клеток человеческого мозга, когда он видит ножницы.

Это позволило установить два удивительных факта. Во-первых, одни и те же зрительные образы в мозгах разных людей и даже обезьян порождают сходные геометрические конфигурации. Не с точностью до нейрона, но с точностью до групп клеток. Второй факт еще поразительнее: в искусственных нейросетях происходят взаимодействия аналогичной формы.

- Мы обнаружили, что у самых разных нейросетей для обработки визуальной информации геометрические отражения одних и тех же понятий очень похожи, несмотря на то, что при их создании использовали разную архитектуру, разное количество нейронов и слоев. Это стало большим сюрпризом, - признается профессор Сомполински. - Можете, если хотите, сравнить это с платоновскими идеями. Но идеи Платона - они из другого мира попадают в наш мир. А я далек от мистики.

Не судить за поступки, а конструировать будущее

Но если человеческие мозги и компьютерные нейросети устроены по одному и тому же принципу, то как быть со свободой воли, важнейшим свойством человека? Ответ профессора - в том, что этой свободы нет. И он совсем не такой экстравагантный, как может показаться.

При современных научных представлениях очень сложно отыскать в мозге место для свободной воли. Ведь все, что происходит внутри - непрерывная цепь вполне материальных физических, химических и биологических процессов. Вещество и энергия не возникают и не исчезают баз следа. А значит, физически объяснить момент выбора между тем или иным решением не получается - из одного и же состояния мозга не может быть двух разных следствий.

Хаим Сомполински предлагает просто принять этот факт и отказаться от идеи свободной воли, которую он называет эзотерической. Все это не мешает ему быть верующим иудеем. Одно время он даже учился в ешиве, так что приводит талмудический пример.

- Хочу подчеркнуть, мозг и сознание - это настоящая магия, - убежден он. - В Средние века комментаторы Торы говорили: чудо - это солнце, которое восходит каждый день, это небо, облака и цветы. Кому нужны другие чудеса? Человек может восхищаться магией порядка вселенной. Зачем нужна магия исключений, нерегулярности? Но есть важное различие, которое часто упускают: между объективными физическими процессами, стоящими за нашими мыслями и решениями, с одной стороны, и субъективным мышлением. Оно не должно учитывать эти объективные процессы. Оно должно ориентироваться на наши ценности, представления и цели.

Только вот как в такой ситуации быть с моралью? Если террорист, участвовавший в резне 7 октября, не имел свободы выбора и не мог действовать иначе, как к нему относиться?

- Поскольку все, что происходит в сознании, - это физика, химия и биология, наша манера оценивать людей должна быть принципиально изменена, - уверен профессор Сомполински. - Не важно, насколько человек зол и насколько он заслуживает наказания. Так же, как не важно, насколько героически поступил и насколько заслуживает награды другой. Потому что все на свете - природа. И зло, совершенное людьми, такое же бедствие, как цунами или извержение вулкана. Единственная рациональная причина кого-то наказать или поощрить - конструирование будущего. Взгляд вперед, а не назад.

Так что убийцу из ХАМАСа вполне рационально посадить в тюрьму. И для этого есть, как минимум, две хорошие причины. Во-первых, так он не будет представлять опасности для общества. Второе и более важное - это способ научить людей не быть террористами.

- Мы не наказываем и не поощряем, мы обучаем нейросети в головах людей, - объясняет профессор Сомполински. - Просто нейронаука так продвинулась, что мы теперь понимаем эти процессы.

Со временем, уверен он, придется придумать, как научить, что хорошо и что плохо, и искусственные нейросети. Сейчас все просто, мы даем системам ИИ подробные инструкции. Например, не помогать пользователям в изготовлении оружия.

- Но в не таком уж далеком будущем машины станут самостоятельными агентами. Системы ИИ получат искусственные тела и будут с их помощью помогать нам в самой разной работе. Тут уже не получится прописать все возможные сценарии и придется учить их абстрактным представлениям о целях и ценностях, - рассуждает ученый. - Это будет похоже на обучение ребенка. Вы же не говорите ему или ей: в такой-то ситуации поступай так, а в такой-то этак. Вы приводите примеры каких-то абстрактных принципов и стараетесь на них объяснить: это хорошо, а это плохо.

Дать нейросетям побродить

Из того, что мы за последние 10 лет поняли о работе нейронных сетей, кое-что уже можно применить на практике.

- Например, правильно использовать повторения для стимуляции памяти, - говорит профессор Сомполински. - Или подстегнуть креативность. Зачастую нейросети ищут решения проблем не перебором одного варианта за другими. Они используют генерируемый нейронами внутренний шум, чтобы бродить по пространству возможных решений и искать лучшую точку для старта.

Один из вкладов профессора в науку - открытие механизмов генерации этого хаотичного внутреннего шума за счет чередования возбуждения и торможения нейронов. И этот шум позволяет нам искать решения трудных задач. Свое открытие ученый применяет и в собственной жизни.

- Если я застрял на какой-то проблеме на несколько часов или дней, то стараюсь отставить ее в сторону, пойти погулять, побегать, подумать о чем-то другом. Все, чтобы освободить свои нейросети от одного конкретного пути и дать им побродить в поисках свежего решения, - рассказывает Хаим Сомполински. - Но более системное приложение того, что мы знаем о нейросетях, к учебе и жизни, еще впереди.

Читайте также

Профессор считает, что пока рано говорить, каким станет образование будущего после того, как мы лучше разберемся в устройстве нашего мозга.

- Но могу сказать точно, что уменьшение учебной нагрузки - это совершенно неверное направление, - говорит ученый. - Абсолютное преступление - не учить математику. У людей есть возможности думать и использовать математические инструменты, чтобы понимать так много о природе и разрабатывать замечательные технологии для улучшения жизни.

Хаим Сомполински не одобряет и более позднее получение образования, ведь человеческий мозг сохраняет пластичность лишь до 20 с небольшим лет.

- Да, определенные области знания можно изучать и потом. Но для некоторых существует лишь короткое окно, - констатирует он. - Не важно, сколько усилий я приложу, пытаясь научить внуков математике, до определенного возраста это не получится - мозг еще не готов. Так же я вижу студентов, очень способных в биологии или психологии, которые хотят перейти в компьютерную нейронауку и которым она дается с большим трудом, потому что окно уже закрылось.

Все это совсем не отменяет того факта, что учиться лучше всю жизнь.

- Важно подвергать свой мозг испытаниям в любом возрасте. Тут как с мускулами: чем больше упражняешь, тем в лучшей они форме, - объясняет Сомполински. - Мой отец ушел от нас в 100 лет. Но и в 94-95 лет он продолжал учиться, узнавать новое и писать научные статьи по микробиологии. Это вопрос базового здоровья нашего мозга.

В общем, свой выбор профессор сделал и собирается сохранять научную активность до глубокой старости. Если, конечно, допустить, что он в принципе мог сделать тот или иной выбор. Но для этого пришлось бы признать свободу воли.

Комментарии, содержащие оскорбления и человеконенавистнические высказывания, будут удаляться.

Пожалуйста, обсуждайте статьи, а не их авторов.

Статьи можно также обсудить в Фейсбуке