# Разум и искусственный интеллект

Валерий Федорович Паульман

Разум и искусственный интеллект


Начну, пожалуй, с заявления британского чипмейкера Arm Рене Хааса, который предупредил о "восстании машин". Arm Рене Хаас заявил, что его самый большой страх, касающийся развития искусственного интеллекта, состоит в том, что он получит контроль над человеком. Arm Рене Хаас призвал найти способ "отключить систему".

Рассмотрим, насколько опасения Arm Рене Хааса оправданы.

Сначала о том, что из себя представляет искусственный интеллект

- Искусственный интеллект (ИИ) - это область информатики, которая занимается разработкой интеллектуальных компьютерных систем, то есть систем, обладающих возможностями, которые мы связываем с разумом, - понимание языка, обучение, способность рассуждать, решать проблемы и т. д. ИИ является мощным инструментом разума, который он создал в ХХ веке.

Кстати, информа́тика (фр. informatique; англ. computer science) - наука о методах и процессах сбора, хранения, обработки, передачи, анализа и оценки информации.

Термин ИИ употребляется уже 70 лет.

ИИ используется:

-в разработке программного обеспечения,

для решения демографических проблем,

в целях обороны и в военном деле,

в образовании,

в бизнесе,

в квантовой физике,

в борьбе с мошенничеством,

в электроэнергетике,

в производственной сфере,

в банках,

на транспорте,

в логистике,

в аудите,

в торговле,

в сельском хозяйстве,

на рынке предметов и услуг роскоши,

в ресторанах,

в пивоварении,

в юриспруденции,

в госуправлении,

в ЖКХ,

= в криминалистике,

в судебной системе,

в спорте,

в медицине (здравоохранении).

Словом, ИИ задействован человечеством практически во всех сферах общественной жизни.

ИИ является комплексом родственных технологий и процессов, развивающихся качественно и стремительно, например, в таких областях, как:

обработка текста на естественном языке,

машинное обучение,

экспертные системы,

виртуальные агенты (чат-боты и виртуальные помощники),

системы рекомендаций.

ИИ находит, отслеживает, классифицирует, идентифицирует объекты, анализирует полученную информацию.

ИИ применяется для:

-распознавания объектов,

- аналитики,

-описания содержания изображений и видео,

-распознавания жестов и рукописного ввода,

-интеллектуальной обработки изображений.

При анализе данных ИИ находит закономерности и прогнозирует. При этом ИИ использует методы статистики и эконометрики.

Теперь мы можем перейти к ответу на вопрос о том, какую угрозу представляет искусственный интеллект для человечества. Неужели он подобен ядерному оружию, также созданному разумом?

Развитие технологий искусственного интеллекта в перспективе может нести не только пользу, но и вред.

Известно, что администрация президента США выпустила инструкцию о защите людей от ИИ.

7 октября 2022 года Управление по научно-технической политике (OSTP) Белого дома сформулировало пять положений, которыми следует руководствоваться при разработке, использовании и внедрении автоматизированных систем. Документ подготовлен на фоне того, как по мере развития искусственного интеллекта все больше голосов присоединяются к призыву принять меры по защите людей от этой технологии. Опасность, по мнению экспертов, заключается в том, что нейросети легко становятся предвзятыми, неэтичными и опасными.

Пользователь должен быть защищен от небезопасных или неэффективных систем. Автоматизированные системы должны разрабатываться на основе консультаций с различными сообществами, заинтересованными сторонами и экспертами в данной области для определения проблем, рисков и потенциального воздействия системы. Системы должны проходить тестирование перед развертыванием для выявления и снижения рисков, а также постоянный мониторинг, который продемонстрирует их безопасность и эффективность.

Пользователи не должны сталкиваться с дискриминацией со стороны алгоритмов, а системы должны использоваться и разрабатываться на принципах равноправия. В зависимости от конкретных обстоятельств, алгоритмическая дискриминация может нарушать правовую защиту. Проектировщики, разработчики и специалисты по внедрению автоматизированных систем должны принимать проактивные и последовательные меры для защиты отдельных лиц и сообществ от алгоритмической дискриминации, а также для использования и проектирования систем на основе равноправия.

Пользователь должен быть защищен от неправомерного использования данных с помощью встроенных средств защиты, и он должен иметь право распоряжаться тем, как используются данные о нем. Проектировщики, разработчики и специалисты по внедрению автоматизированных систем должны запрашивать у пользователя разрешение и уважать его решения относительно сбора, использования, доступа, передачи и удаления его данных соответствующими способами и в максимально возможной степени; если это невозможно, следует использовать альтернативные средства защиты конфиденциальности на основе дизайна.

Пользователь должен знать, что автоматизированная система используется, и понимать, как и почему она способствует достижению результатов, которые влияют на него. Проектировщики, разработчики и специалисты по внедрению автоматизированных систем должны предоставлять общедоступную документацию на простом языке, включающую четкое описание общего функционирования системы и роли, которую играет автоматизация, уведомление о том, что такие системы используются, о лице или организации, ответственной за систему, и объяснение результатов, которое должно быть четким, своевременным и доступным.

Пользователь должен иметь возможность отказаться от услуг, где это необходимо, и иметь доступ к специалисту, который может быстро рассмотреть и устранить возникшие проблемы. Пользователь должен иметь возможность отказаться от автоматизированных систем в пользу человеческой альтернативы, где это уместно.

Кроме того 16 февраля 2022 года появилась информация о том, что бывший исполнительный директор Google Эрик Шмидт (Eric Schmidt) объявил о создании благотворительного фонда с общим капиталом 125 млн долларов, который будет оказывать содействие исследованиям в сфере искусственного интеллекта. Речь, в первую очередь, идёт об исследованиях, направленных на решение кардинальных проблем, проявляющихся при использовании технологий искусственного интеллекта, в том числе предвзятости (феномен AI bias - прим. TAdviser), возможности причинения вреда и злоупотреблений. В списке значатся также геополитические конфликты и научная ограниченность самой технологии.

При написании данной статьи автор использовал информацию из Википедии.