Интервью с д.т.н. профессором О.П. Кузнецовым

Как Вы оказались в ИПУ РАН?

Я окончил МГУ, философский факультет, в 1958 г. Это было чрезвычайно интересное и романтическое время. За три года до этого, в 1955 г., был отменен запрет на кибернетику и произошла ее реабилитация. Началось бурное развитие, причем, как выяснилось, не на пустом месте. Советская наука была к этому готова.

В моем философском образовании была одна важная сторона, благодаря которой я и попал в ИПУ РАН. Я интересовался математической логикой, а, как выяснилось, как раз в 1958 г. один из мэтров Института, тогда Института автоматики и телемеханики, Михаил Александрович Гаврилов, который был руководителем лаборатории №3, искал специалиста по математической логике.

Тогда таких специалистов можно было в буквальном смысле по пальцам сосчитать, даже среди математиков. Математическая логика не только не изучалась, а почти преследовалась, считалась идеализмом. В последние годы сталинского периода было довольно много такой ерунды.

Зачем Михаилу Александровичу потребовался специалист по математической логике? Потому что он был одним из немногих, кто понял, что математическая логика — это прекрасный математический аппарат для анализа и проектирования дискретных логических схем. Тогда еще не было электроники, и вся автоматика строилась на реле.

Еще в1936 г. американец Клод Шеннон, который потом создал теорию информации и ровно тем и знаменит, но среди специалистов он известен и как человек, который понял, что релейно-контактные схемы можно описывать с помощью математической логики.

Почти одновременно с ним это понял незаметный советский физик Виктор Иванович Шестаков, который сделал доклад в МГУ про то же самое. Гаврилов случайно попал на этот доклад и загорелся. 

В 1946 г. М.А. Гаврилов защитил докторскую диссертацию. О ней сохранились легенды. Защита длилась восемь часов. Большинство присутствующих сначала были против, но в результате, так сказать, упорных боев, а эти дискуссии иначе не назовешь, в заключение его поддержал Аксель Иванович Берг, один из самых активных и влиятельных отечественных пропагандистов кибернетики.

По материалам своей диссертации Гаврилов затем написал первую в мире книгу, которая вышла в 1950 г. и которая так и называлась «Теория релейно-контактных схем», где он показал, каким образом можно применить математическую логику, но его мало кто понимал в то время. Это была совсем новая математика, которая на самом деле довольно проста, но только если в нее вникнуть.

С большим трудом он ее внедрял, и ему нужны ему были специалисты, которых он начал искать. Так Михаил Александрович вышел на меня и еще одного моего коллегу, тоже с философского факультета, Валентина Казакова, с которым мы вместе и пришли в Институт. 

Как потом нам рассказывал Гаврилов, ему пришлось ехать в Управление делами Академии наук и объяснять, с какой стати он берет философов на работу. Но он сумел это пробить, и так я оказался в Институте автоматики и телемеханики. Институт тогда располагался на Каланчевской, 15.

Очень быстро я понял, что философского образования мало и что на одной математической логике далеко не уедешь. Тогда я поступил, уже заочно, на мехмат, который закончил в 1966 г. 

В Институте мне с самого начала было интересно. Я понимал, что я нужен, что я знаю что-то, чего не знают другие, при том, что я тогда был совсем молодой и не имел никакого понятия о теории управления. У меня никогда не было никаких сомнений в том, что я оказался там, где надо.

Как развивались Ваши научные интересы? 

Первые лет тридцать я занимался релейно-контактными, электронными и дискретными схемами, то есть теми, для описания которых нужна математическая логика. Почти сразу возникла более серьезная теория этих схем, которая называлась «теория конечных автоматов», и я стал заниматься ей. Примерно до 80-х гг. я занимался теорией автоматов и автоматизацией проектирования дискретных логических схем. 

Потом постепенно я перешел на тематику искусственного интеллекта, которую я понимал по-своему.

Помимо занятий теорией автоматов, меня всегда интересовала работа мозга. Это было некое хобби. Я пытался, хотя и не очень систематически, читать книги и следить за становлением искусственного интеллекта, но до поры до времени только читал. Окончательным поворотом к этому стало, как ни странно, одно художественное произведение, новелла Станислава Лема «Формула Лимфатера».

В ней очень ярко и удивительно профессионально, с точки зрения литератора, было показано, что мозг и компьютер имеют мало общего, и на пути представления о мозге как о компьютере далеко не всего можно добиться.

В то время как раз считалось, что мозг — это компьютер, только биологический, а так все то же. Понимая мозг в этих терминах, мы постепенно придем к созданию человекоподобного искусственного интеллекта. Однако, я довольно рано начал понимать, что это не так. Потом у меня возникли некоторые собственные идеи, связанные, как ни странно, с голографией. Моя первая работа была по голографическим нейронным сетям, с которой я, собственно, и вошел в искусственный интеллект.

Уже в 90-х гг. я опубликовал программную статью, которая называлась «Неклассические парадигмы в искусственном интеллекте», где говорил о том, что на том пути, который тогда был основным и который сейчас называют «логико-символьным» или «алгоритмическим искусственным интеллектом», далеко не всего можно добиться, что надо искать другие пути, и предложил один из них, который разработали мы с коллегами.

Дальше я стал активно работать в области искусственного интеллекта.

В чем принципиальная разница между компьютером и мозгом?

Есть такая формула, высказанная не мной. Неоднократно я ее встречал у очень известного когнитивного лингвиста Стивена Пинкера, у которого довольно много замечательных полу-популярных книг. В каком смысле «полу-»? Они написаны для неспециалистов по когнитивным наукам, но для думающих людей. 

(У меня есть набор полу-популярных книг, которые я бы назвал своими настольными книгами, но это отдельный разговор.)

Формула Пинкера такая: то, что просто сделать компьютеру — сложно сделать человеку; и наоборот: то, что просто человеку — сложно компьютеру. Человеку свойственно первично образное восприятие мира, а для компьютера распознавание образов — очень сложная вещь. Достаточно обратить внимание, какие колоссальные объемы занимают графические файлы. Компьютер все, грубо говоря, сканирует по пикселям, а у человека ничего такого нет. Именно поэтому я пришел к идее голографии.

Компьютер вычисляет, ничего другого он не умеет. Что бы он ни делал, какие бы он сложные задачи ни решал, все это связано с алгоритмическими вычислениями. Человек же, наоборот, вычислять с рождения не умеет. Этому надо учить. Школа 11 лет занимается именно тем, что учит так или иначе, вычислять, рассуждать, приводить аргументы за и против... Логика – штука близкая к вычислениям, и человеку она не свойственна. Рассуждать логически надо учить. Это один важнейших аспектов при обсуждении разницы между человеком и компьютером. Формализация рассуждений — очень сложная вещь.

Неправильно думать, что передача сигналов в мозге в основном электрический процесс. Он и химический тоже. И эти электрические сигналы — это не тот ток, который течет по проводам. Скорость передачи электрического сигнала в компьютере в миллионы раз быстрее, чем в мозге, но человек на удивление быстро рассуждает. Именно потому, что человек рассуждает не логически, а, грубо говоря, на основе тех схем, которые у него вырабатываются всю жизнь. Вырабатываются они непонятным до сих пор образом, и в мозге их миллионы. Человек поразительным образом извлекает именно те схемы, которые ему нужны в данный момент. Благодаря этому он, конечно, часто ошибается, особенно в нестандартных ситуациях, но это уже отдельный разговор, это уже психология, это знаменитая книга Даниэля Канемана, которая вышла под русским названием «Думай медленно... решай быстро».

Совершенно замечательная книга, одна из тех, которые я всем рекомендую.

Что сегодня находится в фокусе Вашего внимания?

От искусственного интеллекта в строгом смысле этого слова я отошел. Когда начался второй этап развития искусственного интеллекта, связанный с машинным обучением и нейросетями, я понял, этим я заниматься уже не буду. Меня интересует та область, которая сейчас называется нейроинформатикой, и когнитивные науки. Это комплекс наук, куда входит и психология, и лингвистика, и нейрофизиология. 

Очень долго моей мечтой было сделать какой-нибудь проект вместе с нейробиологами. В 2012–2014 гг. у меня были активные контакты с Константином Владимировичем Анохиным, наверное, ведущим нашим нейробиологом. Конструктивно они ничем не закончились, хотя я очень ему благодарен за огромный массив литературы, который он нам предоставил, и который мы всем коллективом тогда активно изучали.

Потом мне очень сильно повезло, правда, не без моего активного участия. В 2015 г. я встретился с замечательной группой нейробиологов из Института биологии развития во главе с Дмитрием Антоновичем Сахаровым, который широкой публике известен как бард Дмитрий Сухарев, автор известных песен «Бричмулла» и «Александра».

На самом деле он, без преувеличения, великий ученый. Сахаров 40 лет пропагандировал концепцию, о которой никто не хотел и слушать, но которая в конечном счете победила. Речь о том, что существенную роль в передаче информации в нервной системе играют химические процессы.

Однажды на одной постерной конференции я подошел к нему и сказал, что мы, математики из Института проблем управления, хотели бы с Вами поработать. Он с радостью ухватился за мое предложение и тут же познакомил нас со своей командой. Команда оказалась совершенно замечательная, и мы 10 лет прекрасно сотрудничали. Это закончилось книгой под названием «Химические языки нервных систем». У книги пять авторов: три нейробиолога во главе с Дмитрием Антоновичем и мы с Людмилой Юрьевной Жиляковой.

Расскажите, пожалуйста, о своих учителях и о своих учениках.

В строгом смысле слова, учителей у меня не было. Так случилось, что в силу тех обстоятельств, о которых я говорил выше, в каких-то областях я все время знал больше, чем они. Они очень много знали того, чего я не знал, но в той области, в которой надо было продвигаться, я знал больше.

Но есть два человека, которых в моей научной жизни я могу назвать своими учителями.

Первый учитель — это, понятное дело, Михаил Александрович Гаврилов, который меня нашел, взял на работу и учил уму-разуму. 

Второй мой учитель – это Марк Аронович Айзерман. (Он, думаю, так никогда и не узнал, что я считаю его своим учителем.)

Мы были в разных лабораториях, но часто контактировали. Что-то общее по духу у меня было с ним. Он меня каким-то образом привечал, что ли, хотя у него были свои дела, своя лаборатория, а у меня своя, но был у нас с ним какой-то человеческий контакт.

В частности, когда Марк Аронович с коллегами писал свою известную книжку «Логика, автоматы, алгоритмы», он пригласил меня написать для нее один параграф. Он пытался вовлечь меня и коллег в некоторые из своих работ, но из этого, правда, ничего не вышло. 

Я помню, как-то на Ученом совете, рассказывая об очередной новой области, которой он решил заниматься, Айзерман сказал: «Мы — разведчики». Вот это мне было очень близко. Меня всегда интересовало что-то новое.

Если посмотреть на мои работы, у меня гораздо больше разных придумок, чем продолжение чьих-то других работ. Так складывалось. Новое мне интересно, и этим мне Марк Аронович был всегда близок. Именно поэтому я счел своим долгом, позвать его на свою докторскую защиту. В это время у него был, кажется, отпуск, а в этот конкретный день у него был и день рождения, но он пришел и сказал очень правильные слова. Я ему за это был очень благодарен. 

Что касается учеников. В строгом смысле я не могу назвать никого своими учениками. С формальной точки зрения, учеников, то есть тех, для кого я могу себя записать в качестве научного руководителя их диссертаций, не так уж много. Не больше десятка.

Были люди, которым я помогал делать кандидатские диссертации – это Алексей Марковский и Любовь Шипилина, это Сергей Куливец. Людмиле Юрьевне Жиляковой я помог сделать докторскую диссертацию. Это была моя очередная придумка — ресурсные сети, а она ее совершенно классно раскрутила. Это есть в книге, которую мы потом совместно написали, «Теория ресурсных сетей». Это был замечательный опыт создания теории просто с нуля. По математике она процентов на 80 принадлежит Людмиле Юрьевне, но зато я придумал эту модель.

Вы процитировали замечательную фразу М.А. Айзермана, что ученые — это разведчики. Какие еще территории Вы бы хотели разведать?

Я скажу очень громкую вещь. Я хотел бы заняться моделированием сознания. Именно моделированием. Надо иметь в виду то, что очень многие упускают, говоря, скажем, о перспективах искусственного интеллекта и так далее, модель никогда не повторяет оригинал. При всем том, что я сторонник позиции, что искусственный интеллект человека не заменит, это не отрицает того, что моделированием человеческого интеллекта надо заниматься.

В нейробиологии уже есть довольно серьезные достижения, которые позволяют всерьез задуматься о возможности моделирования сознания. Я бы хотел этим заняться, но, к сожалению, есть две вещи, которые мешают.

Первое — это мой возраст.

Второе. Очень слабые возможности привлечь кого бы то ни было к сотрудничеству. Дело в том, что современная научная бюрократия, на мой взгляд, принципиально мешает как раз делу научной разведки. Наш опыт общения с биологами говорит вот о чем. Мы несколько лет общались с Анохиным и получили от него огромный массив литературы по когнитивным наукам. Два года мы ее изучали, и все. Публикаций из этого никаких не произошло. Потом мы стали заниматься с нейробиологами, они же биохимики. Опять мы два года читали литературу, въезжали в проблему, консультировались с ними. 

При нынешней наукометрии, которую, на самом деле, я совершенно не отрицаю, какое я имею моральное право посадить молодого человека на два года за изучение литературы? Чем он будет отчитываться? Ему отчитываться будет нечем.

Наукометрия – очень полезная вещь, сейчас вообще без нее нельзя, но есть замечательный принцип: если мера становится целью, она перестает быть мерой. Поэтому настоящие серьезные перспективные работы сейчас возможны с очень большим трудом. Но несмотря на это, мне очень хочется заняться моделированием сознания, и я попробую сделать хотя бы проект. Устроить серьезную работу я не вижу возможности. Наукометрия не дает права на ошибку, а без этого права начинать что-то новое слишком рискованно: в начале пути ничто не гарантирует успеха.

Хочу задать Вам философский вопрос. Не кажется ли Вам, что технологии начинают выскальзывать из рук человечества? 

Пока еще нет. Дело в том, что это не первый раз в истории, когда человечество сталкивается с риском того, что называется «выпустить джинна из бутылки». Самый всем понятный пример — это атомная бомба. Но есть и другие. Есть, например, генетическое редактирование и эксперименты с человеческими эмбрионами, которые просто взяли и запретили. С атомной бомбой труднее, но, худо-бедно, какой-то контроль есть. Я уверен, что наступит контроль и над искусственным интеллектом.

Но с искусственным интеллектом связано очень много мифов, причем эта мифология имеет почти ту же историю, что и сам искусственный интеллект. Еще в 60-х годах начались мифы про то, что искусственный интеллект скоро превзойдет человеческий и поработит человека, и человек станет ненужным, и так далее. В основе этого мифа лежит неправильное понимание понятия эволюции.

Уже в наше время, в начале 2000-х гг., весьма известный специалист по искусственному интеллекту Раймонд Курцвейл опубликовал несколько книг, в которых пророчил будущее искусственного интеллекта именно таким образом. Более того, называл даты. Он говорил, что уже в 2029 г. мы получим человекоподобный искусственный интеллект — совсем недолго осталось, а в 2045 г. будем иметь искусственный интеллект, во всем превосходящий человеческий. Он опирался на идею эволюции интеллектуальных систем.

Однако он неправильно понимает эволюцию. Он ее понимает просто как развитие, а эволюция в настоящем, в дарвиновском смысле, — это, во-первых, самовоспроизводство и, во-вторых, наследование свойств. То есть эволюция заключается в том, что эволюционирующая популяция воспроизводит сама себя, то есть новых членов популяции, которые наследуют «хорошие» свойства, помогающие приспосабливаться к среде. В то же время, постепенно на основе мутаций и отбора возникают новые свойства.

В этом смысле у интеллектуальных систем нет эволюции. Они себя не воспроизводят. Их развитие организуют люди, но не эволюцию в дарвиновском смысле. Поэтому с этой точки зрения ожидать, что этот процесс выйдет из-под контроля, не следует. Но можно ожидать того, что люди, которым интересно, создадут новые машины. Таким людям хочется сделать то, что до них никто не сделал. Вот это и движет, на самом деле, прогрессом. Потом приходит бизнес и начинает все это раскручивать. Поэтому останавливать надо не машины, а людей. Но пока еще время не пришло, пока все под контролем.

Олег Петрович, что бы Вы сами хотели сказать, о чем я не спросила?

Очень трудно начинать совсем новые проекты из-за того, что все время надо думать, что же я опубликую в ближайшие полгода. При том, что наукометрия играет очень важную роль, и сейчас это демонстрация научной репутации. Но если смотреть не чисто количественно, а чуть вглубь, то сразу видно, какова цена очень многих накрученных хиршей и всяких других индексов. Наукометрия — вещь полезная, но ни в коем случае она не должна участвовать в планировании.

У нас в Институте группа, которая занимается проектом «ИСАНД», делает очень интересные вещи. Дмитрий Губанов и его команда исследуют наукометрические сети. Например, сети соавторства, сети цитирования и так далее. По этим сетям накрутки видны очень хорошо. Такие случаи известны не только у нас, но и на Западе.

Однажды я наткнулся на такой кластер зарубежных ученых, которые прекрасно устроились, - они пристроились к некоему журналу и ссылаются друг на друга. На них не ссылается никто, а у них показатели замечательные. При этом занимаются они давно морально устаревшей тематикой, про которую сейчас даже стыдно сказать специалистам.

Что еще я хотел бы сказать?

В моем чтении очень важна роль «полупопулярных» книг, причем таких, которые, как я говорил, написаны профессионалами, а не журналистами. Такие книги очень полезны при вхождении в новую область. Не раз мне говорили: «Ну что это такое? Это же научпоп. Статьи надо читать!». Статьи читать надо, но любая статья локальна, за исключением тех, на которые десятки тысяч ссылок. Написать корректно и понятно для широкой публики гораздо сложнее, чем написать статью на профессиональном языке, понятном только сравнительно узкому кругу читателей. Научные прорывы происходят, как правило, в профессиональных статьях, но подведение итогов (быть, может, промежуточных) – в книгах. Хорошая «полупопулярная» книга дает широкую картину, «вид сверху», а это требует пространства – объема, которым журнальная статья не располагает.

 

СПИСОК НАУЧНО-ПОПУЛЯРНЫХ КНИГ ПО КОГНИТИВНЫМ НАУКАМ ОТ О.П. КУЗНЕЦОВА

1. Деан С. Сознание и мозг. Как мозг кодирует мысли. М.: Карьера Пресс, 2018.

2. Damasio A. R. Descartes' error: emotion, reason, and the human brain. Putnam Publishing, 1994.

3. Кандель Э. В поисках памяти. М.: Астрель: CORPUS, 2012.

4. Канеман Д. Думай медленно … решай быстро. М.: АСТ, 2013

5. Лакофф Дж. Женщины, огонь и опасные вещи: что категории языка говорят нам о мышлении. М.: Гнозис, 2011.

6. Larson E. J. The Myth of Artificial Intelligence. Why Computers Can’t Think the Way We Do. The Belknap Press of Harvard University Press Cambridge, Massachusetts • London, England 2021.  

7. Митчелл Мелани. Идиот или гений? Как работает и на что способен искусственный интеллект. М.: АСТ, 2022. 

8. Пинкер С. Субстанция мышления: Язык как окно в человеческую природу. М.: Книжный дом «ЛИБРОКОМ», 2013. 

9. Сет А. Быть собой. Новая теория сознания. М.: Альпина нон-фикшн, 2024.

10. Талер Р. Новая поведенческая экономика. Почему люди нарушают правила традиционной экономики и как на этом заработать. М.: Эксмо, 2017

11. Хофштедтер Д. Гедель, Эшер, Бах: эта бесконечная гирлянда. Самара: Бахрах-М, 2001

 

 

Беседу вела Л. Бойко