# Искусственный ли интеллект ли

Леонид Александрович Ашкинази

Обзоры научно-популярной литературы, N 25

Искусственный ли интеллект ли

Понятие "искусственный интеллект" столь туманно, что книги, касающиеся этого предмета, делятся на два бархана -- одни авторы предпочитают не обращать внимания на неопределенность общего уровня и пишут о чем-то конкретном, об алгоритмах и реализациях, другие пытаются что-то сказать, но не говорят ничего внятного. Мы проявим оригинальность: обычно искусственность считают чем-то очевидным, а мусолят понятие "интеллект". Мы же займемся сначала понятием "искусственный". Если все, что создал человек, искусственно, то интеллект наших учеников и наших детей -- тоже искусственный, и нечего обсуждать. Если мы сами -- естественны и созданное естественным -- естественно, то естественно все. И вопрос опять закрыт. Между прочим, учить можно и не человека, а обезьяну. Так что термином "нечеловеческий интеллект" мы не отмажемся. Придется согласиться на "машинный интеллект": коряво, но менее расплывчато. А что делать, если через тридцать лет (увы, уже не) у меня в аудитории будут сидеть киборги(ни), веселые, милые и радостно усваивающие материал лекции девочки-гибриды? Так что будем говорить по традиции "искусственный интеллект" (далее -- ИИ); но понимать, что его материальный носитель -- кремний, арсенид галлия, карбид кремния, графен, алмаз... хочется сказать и так далее, но наглости не хватает.


С интеллектом проблема сложнее: мы с умным видом называем M -- умницей, а N -- идиотом, но дать определение "естественного интеллекта" затруднимся. Не являются ли сложности с определением того, что такое ИИ, следствием того, что психологи не имеют четкого определения того, что такое ЕИ? Они строят тесты и определения, но тесты интеллекта для людей тривиальны для компьютера, то есть для программ. Психологи не включают в понятие интеллекта нечто чисто человеческое, то, что мы пытаемся требовать от компьютера, -- усмешку при взгляде на тест, обеспокоенность при виде мрачного бородатого психолога, беглый взгляд, брошенный на его юную ассистентку. Для ознакомления со спорами среди психологов можно заглянуть вот в эту книгу -- Ганс Айзенк и Леон Кэмин "Природа интеллекта. Битва за разум!" (никаких битв в книге, естественно, нет).


Те авторы, которые уходят от вопроса, что такое ИИ, пишут "чисто конкретные" книги, посвященные алгоритмам конкретных методов или их программной реализации. Например, книга Хараламбоса Марманиса и Дмитрия Бабенко "Алгоритмы интеллектуального Интернета". В соответствии с названием в ней присутствуют многие алгоритмы и группы алгоритмов, но являются ли эти операции интеллектуальными? Интернет -- это взаимодействие людей, и интеллектуальным авторы полагают, например, формирование групп людей с одинаковыми интересами (видели мы это: "с вами хочет познакомиться"...) или учет поисковой системой при покупке какого-либо товара предыдущих действий данного покупателя или покупателей вообще. Для кого-то это удобно -- и потому выгодно продавцу и владельцу поисковой машины. Кто-то этим раздражен и пишет книги типа Эли Паризер "За стеной фильтров. Что Интернет скрывает от вас" Потому что понятно, что, обрабатывая, например, все данные о покупках, сделанных по данной карте, можно узнать о человеке фантастическое количество информации; в том числе и вполне интимной (медицина, косметика, услуги).


Но установление любого количества связей между любым количеством кусков любого контента и любая оценка значимости этих связей -- интеллект ли это? Мне кажется, что при достаточно мощных четырех этих "любых" мы в реальной жизни воспримем такую программу как ИИ. Однако если вам расскажут алгоритм, по которому работает система, то вполне возможно, что тогда вы усомнитесь в ее интеллектуальности. Похоже, что оцениваем как недостаточно интеллектуальное, то, у чего мы способны понять механизм работы. Это, кстати, чем-то напоминает тест Тьюринга, интеллектуальное соревнование, но на следующем логическом этаже. То есть могу ли я, глядя на описание алгоритма, понять, как "оно" сработает, могу ли я, хотя бы примерно, предугадать действия этого "оно"? На самом деле, это почти тривиальное утверждение: без прокрутки в голове разработчики не могли бы придумать сами алгоритмы. При этом, конечно, сами реализации из-за большого объема информации требуют от разработчиков весьма высокого интеллекта.


Например, по этому критерию персептрон -- это настоящий ИИ, потому что, глядя на его алгоритм или даже на "веса связей", мы не сможем сказать, на какое распознавание он обучен. Спрашивается, как смог Фрэнк Розенблатт его придумать? Ответ прост -- он открыл учебник биологии и посмотрел, как устроен глаз лягушки. Ну, и немного подумал головой -- без ЕИ не вытащишь ИИ из пруда. Читайте книгу Саймона Хайкина "Нейронные сети: Полный курс" -- гордое и заслуженное название. Это больше тысячи плотноупакованных страниц, есть там и несколько слов про ИИ, но немного -- автор конкретный человек.


Вот более близкая к нашей теме серьезная книжка -- Нильс Нильсон "Искусственный интеллект. Методы поиска решений". Она, правда, старая, но полезная; между прочим, автор упоминает, что в применении к компьютерам высказывалась идея мутаций и избирательного выживания, то есть эволюции. Нечто подобное в романе "Голем XIV" описал Станислав Лем -- когда компьютеры конструируют компьютеры следующего поколения, ибо человек на то, чтобы "рубить фишку", еще годен, а конструировать на этом уровне уже не может.


Стюарт Рассел, Питер Норвиг "Искусственный интеллект. Современный подход".

Если вам показалось, что тысяча страниц -- это много, то учтите, что в этой книге почти в полтора раза больше. Авторы рассматривают возможные свойства ИИ, историю попыток продвижения в этом направлении, включая контакты с различными дисциплинами -- например, с экономикой, неврологией, психологией, математикой, а также современное его состояние. При этом они включают в рассмотрение широкий круг реализаций - некоторые из них кто-то, может, и не отнесет к ИИ. Авторы рассматривают ИИ как способ совершения действий во внешнем мире и вводят соответствующее понятие "агента". Это, конечно, увеличивает объем книги, но несколько "дисциплинирует" область. По широте охвата книга не имеет равных - например, рассмотрен ввод в компьютер данных из реального мира.


Владимир Девятков "Системы искусственного интеллекта".

В этом учебнике также используется понятие "агента", но в целом книга придерживается некоторого промежуточного, формально-логического уровня. Автор не опускается до программирования и не взмывает ввысь, к философским проблемам и обобщениям; к истории он тоже не обращается. В послесловии, однако, отмечено, что когда человек применяет понятие "думать" к другому человеку и к компьютеру, он подразумевает разные вещи.


Теперь посмотрим на несерьезные книги, где авторы попытались сказать что-то именно про ИИ, но не рассматривая конкретные задачи и тем более конкретные методы и реализации. В предисловии к книге Игнаси Белда "Разум, машины и математика. Искусственный интеллект и его задачи" говорится: "В этой книге мы раскроем некоторые тайны искусственного интеллекта и коротко расскажем о том, что такое "искусственная жизнь". Ждать ли нам в ближайшем будущем появления говорящих машин и автономных разумных систем, или робот еще не скоро сравнится с человеком? Ответ на этот и многие другие вопросы вы узнаете из книги, которую держите в руках. Наконец, в главе 6 мы погрузимся в бездны искусственной жизни, поговорим о том, что такое живой организм, и выясним, возможно ли вообще создание живых разумных организмов. Отвечая на эти вопросы, мы приведем практические примеры того, как современный человек каждый день сталкивается с искусственной жизнью". Автор успел что-то сказать обо всем, соответственно, глубина -- воробью по колено. А скандальности ради -- дезинформация о матче Deep Blue-Каспаров.


Две книги, о которых мы уже писали. Джеймс Баррат, автор книги "Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens" сообщает в предисловии: "Моя профессия поощряет критическое мышление -- режиссеру-документалисту всегда приходится быть настороже". Жаль, что эта профессия не поощряет настороженно относиться к собственному дилетантству. Впрочем, можно ли считать автора дилетантом, если его текст способствует порождению у читателей фантазий? Причем не каких попало, а создающих ощущение страха, и не какого попало, а побуждающего купить книгу? Это тоже профессионализм -- но направленный не на то, чтобы мы что-то узнали и поумнели, а на то, чтобы хоть на короткое время поглупели и полезли за кошельком.


В книге Ника Бострома "Искусственный интеллект. Этапы. Угрозы. Стратегии" страшилок немного меньше, наверное, потому, что автор -- философ. Он лихо фантазирует о разных вещах, касающихся и не касающихся темы, имея на это авторское право, и обильно пересказывает рассуждения разных авторов о разных вещах, касающихся и не касающихся темы, имея на это полное пересказывательское право. В конце книги Бостром честно пишет: "Мы заблудились в непроходимой чаще стратегической сложности, которую окутывает плотный туман неопределенности. Хотя многие элементы окружающего нас пейзажа разглядеть удалось, но отдельные детали и взаимосвязи остаются загадкой. Кроме того, могут быть другие факторы, о которых мы пока даже не задумываемся. Что нам остается в такой ситуации?" Я знаю ответ на этот вопрос, он прост -- остается писать книгу! Что, собственно, автор и делает.


Мне кажется, что в глубине страшилок на тему ИИ лежит предположение, что ИИ -- это супергений, но злодей, причем злодей совершенно человеческий. "Как вы, как я", только больше и злодее. Но если вы хотите что-то реально понять, то надо читать тех, кто хоть немного разбирается в вопросе и не ставит задачи впарить вам свою писанину. И тогда мы увидим, что достижения в решении конкретных задач вообще не имеют отношения к нашим страхам, что большая часть проблем была разобрана полвека назад Станиславом Лемом, а человекоподобный ИИ возникнет, когда он получит человеческий личный и исторический опыт. Иначе это будет электронный Маугли, отлично прыгающий по веткам и играющий в шахматы.


Мой взгляд на проблему был когда-то изложен в статье "Может ли машина мыслить" n-t.ru/tp/ts/mm.htm Там показано, на каком пути -- причем вполне реальном -- компьютер мог бы обрести человекоподобный-- с неоднозначными ассоциациями, с рефлексией и эмоциями - интеллект. Путь такого обретения -- эволюция в реальном мире, который для компьютера хоть и доступен через Интернет, но вовсе не состоит из уже накопленных человечеством знаний. Сегодня компьютер имеет выход в реальный мир через Всемирную Сеть -- web-камеры, управляемые через сеть телескопы habrahabr.ru/post/200640/ и всяческие "удаленные лаборатории". Как заметила мне читатель Дина А., компьютерный разум, управляющий экспериментальной установкой, получает уникальную информацию, которой может делиться или не делиться с окружающим миром, в зависимости от эффективности -- с его точки зрения -- этого действия. Чем это отличается от человеческого поведения? Более того, при обработке уже имеющейся информации возникает новая информация. У медиков есть новомодное слово "метаанализ", но вообще анализ уже имеющихся чужих данных -- обязательная часть любого исследования в физике и химии. Для программ, работающих с Сетью, метаанализ -- более чем естественная сфера деятельности.


Так что скучать ИИ не придется. Заметим, что Станислав Лем в двух коротких заметках "Искусственный разум" и "Естественный интеллект" когда-то высказался весьма скептически (впрочем, он почти всегда так высказывался) насчет ИИ, но на существенное значение эволюции и взаимодействия с внешним миром указал. Кроме того, он указал и на различие понятий "интеллект" и "разум", связав последний именно с эмоциями.


Рассмотрим некоторые мнения типа "в компьютере этого не может быть". Например, индивидуальных ассоциаций. Структура ассоциаций действительно индивидуальна: для одного "карабин" -- это шкура на полу перед камином, для другого -- снег и синее. Человек берет свою структуру ассоциаций из жизни и книг, но в Сети нынче книг немало и вообще можно послать запрос с любым словом, собрать пришедшие тексты и, анализируя окружение целевого слова, посмотреть, с чем оно сочетается. При этом создается смысловая связность ассоциативного поля. Действительно, если для данного человека "карабин" -- это "шкура", то "кошка" для него, скорее всего, "большая", а если для него "карабин" -- это "снег и синее", то "кошка" -- "со смещенным монозубом".


В качестве свойств, которые есть у человека, но которых не может быть у программы, называют способность к творчеству и стремление к знанию. Но ничего абсолютно нового в мире нет и быть не может, хотя бы потому, что "новое" всегда изложено языком и красками, а язык и краски уже существовали до того. Поэтому речь может идти только о степени новизны. Программа может строить гипотезы по поводу изучаемых ею в Сети или во внешнем мире явлений и проверять их. Разумеется, она строит гипотезы не какие попало, а в некоем классе (например, аппроксимирует функцию многочленами или синусоидами), но список классов можно легко расширить так, что он превзойдет "человеческий". Если программа обнаружит -- а она это обнаружит, -- что информация увеличивает эффективность ее действий, то возникнет "стремление к знаниям".


Поведение человека (иногда) непредсказуемо? Но и поведение компьютера не всегда можно предсказать. Одна причина -- шум: это свойство любых цепей, биологических в том числе, это следствие самых основ физики, термодинамики, дискретности заряда. И это роднит меня с моим компьютером. Далее -- электромагнитные наводки. Нечто похожее на наводки есть и в мозгу, хотя там оно -- не электромагнитной природы. Нам ли не знать, что возбуждение может быть вызвано одним, а влиять на мысли о другом. Следующая проблема -- синхронизация. Человек часто произносит фразу "да, но тут я вспомнил". А если не вспомнил? А если вспомнил долю секунды спустя? В компьютерах проблема синхронизации возникает на многих уровнях, и внутри одного процессора, и в многопроцессорных комплексах. Все перечисленное -- не что иное, как аналог мутаций, а отбор программ по эффективности очевиден. Что это, как не классическая эволюция?


Еще одно отличие мозга от компьютера -- наличие эмоций. Зачем вообще эмоции человеку? Кое-что очевидно: они управляют телом, например, выбрасывают гормоны и сжимают сосуды перед боем, чтобы уменьшить кровопотерю. Но они управляют и психикой - скажем, возбуждая какие-то зоны в мозгу, они могут ускорять обработку информации именно в них. Один способ -- просто увеличивая снабжение их кровью, то есть кислородом. Другой способ -- химически, посредством веществ, которые ускоряют работу -- возможно, ценой ускорения и износа. Или более изощренно, "электрически" -- например, подняв уровень шума или возбудив колебания, чем понижается порог срабатывания нейронов. В этом случае мозг (как и персептрон) будет быстрее и обучаться, и работать, но делать больше ошибок. В острой ситуации, когда цена времени растет быстрее, чем цена ошибки, это может оказаться и целесообразно.


Подобный механизм -- управление через эмоции -- можно реализовать и в компьютере -- например, изменением приоритета выделения ресурсов программам в зависимости от ситуации. А изменение "степени параноидальности" антивирусных и других защитных программ при получении информации об опасности? И уж если в компьютере есть обучающиеся сети персептронного типа, то очень естественно изменять в зависимости от ситуации параметры программы обучения. Чем это будет отличаться от эмоций?


Изменение структуры связей в мозгу, изменение "железа" в человеке, открытое биологами, иногда приводится как пример специфически человеческого. Но существуют программируемые логические интегральные схемы. Они могут программироваться изначально тем, кто их применяет -- при малом количестве это экономически выгодно. Могут программироваться и в процессе работы, последнее время это стало популярно -- обновление прошивок.


Еще одно возражение -- у компьютера не может быть осознания цели. Может ли машина осознавать то состояние, для достижения которого действует? Само наличие цели, записанной в программе, не является осознанием, но если у программы есть внутренняя модель, где эта цель отображается, то что это, как не сознание? Может ли программа ставить цель? Мощная шахматная программа имеет много (самые мощные -- тысячи) регулируемых коэффициентов в функции оценки позиции, которые могут определяться при обучении программы либо на известных партиях великих игроков, либо в процессе игры с партнерами -- людьми или программами. Если программа заметит, что есть некоторый класс позиций, при которых она выигрывает у данного партнера, она начнет стремиться достигать позиций из этого класса -- это и будет новая цель.


Если действительно будет создано нечто такое, что человек с удивлением признает разумом, будет ли этот разум чем-то принципиальным отличаться от человеческого?

Чтобы быстро и просто продемонстрировать нетривиальность вопроса о различиях разумов, приведем простенький пример. Никто не сомневается, что наши дети -- дети в обычном, биологическом смысле -- разумны; но отличия их разума от нашего порой удивляют.


Разум, созданный при движении по этому пути, сможет иметь по крайней мере одно принципиальное отличие от человеческого -- если этим отличием человек осмелится наделить его. Это совершенная память своей истории, то есть запись всех действий, начиная с момента, когда о разуме еще не было и речи. И вопрос "как я возник?" для этого разума -- в отличие от нашего -- не будет вопросом.


А теперь -- дискотека! У моего любимого Виктора Пелевина (я люблю всех, чьим редактором хоть когда-то был) есть роман "S.N.U.F.F", где, кроме всего прочего, рассмотрено развитие отношений между человеком и роботом, наделенным ИИ. Подзаголовок гласит: "роман-утопия". Вот я и считал его утопией до момента, когда утопия начала реализоваться фирмой Abyss Creations.