# Искусственный интеллект защитит

Леонид Александрович Ашкинази

Искусственный интеллект защитит


Проблема истинности и лживости новостей существовала всегда. Люди с песьими головами, люди со ртом на груди, одноглазые великаны... а в утконоса долго не верили, даже держа тушку в руках, швы искали. Потому что не может быть такого зверя! Со временем понемногу сложился механизм работы общества, деление на источники разной достоверности, соответствующее отношение и восприятие. Но когда происходит скачок на информационном рынке, например, поток информации резко возрастает, устоявшаяся система восприятия ломается. Кстати, психологи, описывающие ситуацию при резком спаде этого потока, тоже пишут о сломе системы восприятия -- например, в концлагерях. Но сейчас мы не об этом.


В том, что интернет на наших глазах превращается в помойку, что существенная доля "новостей" -- бред, фейк и вранье, убеждать вас не надо. Существенная в том печальном смысле, что, читая, мы нынче сначала прикидываем, не вранье ли это, и лишь потом задумываемся о сути сообщения. Кроме того, все это, по понятным причинам, понемногу проникает и в некоторые серьезные издания. Мыслящие и ответственные люди этим вполне серьезно обеспокоены, о чем мы недавно писали (см. "Химию и жизнь", 2018, N 5, 62). Причины огорчительной популярности фейковых новостей вкратце там были названы, а вообще-то тема заслуживает подробного анализа. Не из-за мазохизма, а потому, что разобранное по косточкам и разложенное по полочкам зло становится понятно и менее опасно. Особенно, если его не просто по полочкам, а в баночки да в формалин... Но сейчас речь не об этом, а о том, что делать.


Первое, вполне понятное направление деятельности -- образование, учение, разъяснение, воспитание и т.п. Хорошо, если вы родитель и ваш дитеныш уже понимает эти, для ребенка не вполне тривиальные, вещи и еще готов вас слушать, то есть не достиг уровня просветления, когда он уже знает, что все знает лучше предков. Еще лучше, если вы педагог и вашим ученикам не приходит в голову заснуть у вас на уроке. Но и так, и этак повезло не всем, а кроме того, даже если и повезло, то есть, наверное, и другие решения? Нам, цивилизованным людям, слово "цензура" более чем несимпатично, особенно, если она запрещена и тем не менее есть... причем в данном случае она и технически-то невозможна -- никакого персонала не хватит для отбора достоверного и отсева вранья.


А что, если призвать на помощь наших железных, то есть кремниевых, слуг? То есть искусственный интеллект и программы распознавания? Сделать настоящий, то есть отделяющий правду от вранья именно на основе анализа содержания, интеллект -- задача не на нобелевку, а на вхождение в историю человечества. Это вам не тест Тьюринга пройти и не чемпиона мира по шахматам обыграть, это много круче. Однако нет ли формальных признаков, за которые сможет зацепиться программа распознавания? За лингвистические параметры текста, как это делает "Лингвоанализатор Хмелёва", зацепиться будет трудно, потому что новости обычно коротки. Однако и такой подход не безнадежен -- в частности потому, что в новостях часто используются определенные слова, указывающие на срочность, скандальность, сенсационность, секретность, важность, малоизвестность и так далее. Впрочем, хорошая программа распознавания найдет их сама. Материал для обучения программы можно взять за период, когда фейковость надежно установлена, например, за предыдущие годы. Далее, наверняка есть методы построения эффективного короткого текста, которые могут просто знать квалифицированные манипуляторы или хорошие психологи -- они помогут с алгоритмом. Например, в каком порядке должны предъявляться читателю перечисленные только что стимулы? Впрочем, дальнейшее я готов обсуждать с заказчиком этой работы. Срочной, скандальной, сенсационной и так далее.


Этот метод имеет некоторую общую уязвимость -- если признак найден и программа им пользуется, то контрпрограмма может этот признак выявить и учитывать его наличие при формировании новостей. И в компьютерных небесах, то есть облаках, с невидимым грохотом и неслышимыми молниями столкнутся -- процессор в процессор -- нечеловеческие терабайтные разумы... и, как и должно быть, победит то общество, в котором человек работает лучше, потому что он дышит свободнее и живет безопаснее и интереснее. Ибо еще В.И. Ленин сказал, что победа общественного строя определяется производительностью труда. Юрист, а в экономике на таком уровне разбирался! Правда, в каком обществе она выше, почему-то не сообразил. Или просто нам не сказал?


Из-за этой общей уязвимости гораздо интереснее совершенно другое направление. программа может анализировать внешнее поведение новости -- схему и скорость распространения сообщения в сети, темп и стиль комментирования, темп перевода на другие языки. Можно ожидать, что эти, а также некоторые другие параметры будут различаться для фейковых и не фейковых новостей. Мощная программа распознавания при наличии материала обучения (опять же на основании материала предыдущих лет) сама научится их находить. Кстати, хорошие антивирусные программы действуют аналогично -- анализируют не только саму программу, то есть ее текст, но и ее поведение.


Вас, читающего этот текст -- независимо от того, человек вы или искусственный интеллект, -- интересует, наверное, в чем же будет состоять роль человека и как будут использоваться результаты анализа. Роль человека, как это бывает при построении серьезной программы распознавания, состоит в определении языка описания объекта и метода работы с описанием. Разумеется, язык и метод будут одни, если это нейронная сеть (направление восходит к перцептрону Фрэнка Розенблатта), и другие, если это программа, выделяющая уже сообщенные ей признаки и работающая с логическими операциями (направление восходит к программе "Кора" М.М. Бонгарда), но в целом именно так -- язык и метод.


Что касается использования, то будем надеяться, что все будет цивилизованно. Например, возникнет сайт "фейк-регистр" www.fake-register.com, присваивающий индексы фейковости новостям. И через какое-то время -- если работа системы вообще окажется эффективна -- уважающие себя издания, прежде чем поставить, например, новость о том, что заработал этот сайт, будут проверять на нем самом, не фейк ли эта новость.


А потом мы создадим программу, которая отличает шутку от серьеза, и будем ее экзаменовать на нашем журнале. А что до цивилизованности реакции... то это не от компьютера зависит. Не искусственного интеллекта опосаться надо.