Как называется искусственный интеллект. Что умеет искусственный интеллект

Искусственный интеллект (ИИ, англ. Artificial intelligence, AI) - наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.

Что такое искусственный интеллект

Интеллект (от лат. intellectus - ощущение, восприятие, разумение, понимание, понятие, рассудок), или ум - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Интеллект - это общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.

В начале 1980-х гг. ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта (ИИ):

Позже к ИИ стали относить ряд алгоритмов и программных систем, отличительным свойством которых является то, что они могут решать некоторые задачи так, как это делал бы размышляющий над их решением человек.

Основные свойства ИИ - это понимание языка, обучение и способность мыслить и, что немаловажно, действовать.

ИИ – комплекс родственных технологий и процессов, развивающихся качественно и стремительно, например:

• обработка текста на естественном языке
• экспертные системы
• виртуальные агенты (чат-боты и виртуальные помощники)
• системы рекомендаций.

Национальная стратегия развития искусственного интеллекта

• Основная статья: Национальная стратегия развития искусственного интеллекта

Исследования в сфере ИИ

• Основная статья: Исследования в сфере искусственного интеллекта

Стандартизация в области ИИ

2019: Эксперты ISO/IEC поддержали предложение о разработке стандарта на русском языке

16 апреля 2019 года стало известно, что подкомитет ISO /IEC по стандартизации в области искусственного интеллекта поддержал предложение Технического комитета «Кибер-физические системы », созданного на базе РВК , о разработке стандарта «Artificial intelligence. Concepts and terminology» на русском языке в дополнение к базовой английской версии.

Терминологический стандарт «Artificial intelligence. Concepts and terminology» является основополагающим для всего семейства международных нормативно-технических документов в области искусственного интеллекта. Кроме терминов и определений, данный документ содержит концептуальные подходы и принципы построения систем с элементами , описание взаимосвязи AI с другими сквозными технологиями, а также базовые принципы и рамочные подходы к нормативно-техническому регулированию искусственного интеллекта.

По итогам заседания профильного подкомитета ISO/IEC в Дублине эксперты ISO/IEC поддержали предложение делегации из России о синхронной разработке терминологического стандарта в сфере AI не только на английском, но и на русском языке. Ожидается, что документ будет утвержден в начале 2021 года.

В ходе заседания эксперты ISO/IEC также поддержали разработку проекта международного документа Information Technology - Artificial Intelligence (AI) - Overview of Computational Approaches for AI Systems, в котором Россия выступает в качестве соредактора. Документ предоставляет обзор современного состояния систем искусственного интеллекта, описывая основные характеристики систем, алгоритмы и подходы, а также примеры специализированных приложений в области AI. Разработкой этого проекта документа займется специально созданная в рамках подкомитета рабочая группа 5 «Вычислительные подходы и вычислительные характеристики систем Искусственного интеллекта» (SC 42 Working Group 5 «Computational approaches and computational characteristics of AI systems»).

Технологии искусственного интеллекта широко востребованы в самых разных отраслях цифровой экономики . Среди основных факторов, сдерживающих их полномасштабное практическое использование, - неразвитость нормативной базы. При этом именно проработанная нормативно-техническая база обеспечивает заданное качество применения технологии и соответствующий экономический эффект.

По направлению искусственный интеллект ТК «Кибер-физические системы» на базе РВК ведет разработку ряда национальных стандартов, утверждение которых запланировано на конец 2019 – начало 2020 года. Кроме того, совместно с рыночными игроками идет работа по формированию Плана национальной стандартизации (ПНС) на 2020 год и далее. ТК «Кибер-физические системы» открыт для предложений по разработке документов со стороны заинтересованных организаций.

2018: Разработка стандартов в области квантовых коммуникаций, ИИ и умного города

Технический комитет «Кибер-физические системы» на базе РВК совместно с Региональным инжиниринговым центром «СэйфНет» 6 декабря 2018 года начали разработку комплекса стандартов для рынков Национальной технологической инициативы (НТИ) и цифровой экономики . К марту 2019 года планируется разработать документы технической стандартизации в области квантовых коммуникаций , и , сообщили в РВК. Подробнее .

Влияние искусственного интеллекта

Риск для развития человеческой цивилизации

Влияние на экономику и бизнес

• Влияние технологий искусственного интеллекта на экономику и бизнес

Влияние на рынок труда

Предвзятость искусственного интеллекта

В основе всего того, что является практикой ИИ (машинный перевод, распознавание речи, обработка текстов на естественных языках, компьютерное зрение , автоматизация вождения автомобилей и многое другое) лежит глубинное обучение. Это подмножество машинного обучения , отличающееся использованием моделей нейронных сетей , о которых можно сказать, что они имитируют работу мозга, поэтому их с натяжкой можно отнести к ИИ. Любая модель нейронной сети обучается на больших наборах данных , таким образом, она обретает некоторые «навыки», но то, как она ими пользуется - для создателей остается не ясным, что в конечном счете становится одной из важнейших проблем для многих приложений глубинного обучения. Причина в том, что такая модель работает с образами формально, без какого-либо понимания того, что она делает. Является ли такая система ИИ и можно ли доверять системам, построенным на основе машинного обучения? Значение ответа на последний вопрос выходит за пределы научных лабораторий. Поэтому заметно обострилось внимание средств массовой информации к явлению, получившему название AI bias. Его можно перевести как «необъективность ИИ» или «пристрастность ИИ». Подробнее .

Рынок технологий искусственного интеллекта

Рынок ИИ в России

Мировой рынок ИИ

Сферы применения ИИ

Сферы применения ИИ достаточно широки и охватывают как привычные слуху технологии, так и появляющиеся новые направления, далекие от массового применения, иначе говоря, это весь спектр решений, от пылесосов до космических станций. Можно разделить все их разнообразие по критерию ключевых точек развития.

ИИ - это не монолитная предметная область. Более того, некоторые технологические направления ИИ фигурируют как новые подотрасли экономики и обособленные сущности, одновременно обслуживая большинство сфер в экономике.

Развитие применения использования ИИ ведет к адаптации технологий в классических отраслях экономики по всей цепочке создания ценности и преобразует их, приводя к алгоритмизированию практически всего функционала, от логистики до управления компанией.

Использование ИИ в целях обороны и в военном деле

Использование в образовании

Использование ИИ в бизнесе

ИИ в борьбе с мошенничеством

11 июля 2019 года стало известно о том, что всего через два года искусственный интеллект и машинное обучение будут использоваться для противодействия мошенничеству в три раза чаще, чем на июль 2019 года. Такие данные были получены в ходе совместного исследования компании SAS и Ассоциации сертифицированных специалистов по расследованию хищений и мошенничества (Association of Certified Fraud Examiners, ACFE). На июль 2019 года такие антифрод -инструменты уже используют в 13% организаций, принявших участие в опросе, и в еще 25% заявили, что планируют их внедрить в течение ближайшего года-двух. Подробнее .

ИИ в электроэнергетики

• На уровне проектирования: улучшенное прогнозирование генерации и спроса на энергоресурсы, оценка надежности энергогенерирующего оборудования, автоматизация повышения генерации при скачке спроса.
• На уровне производства: оптимизация профилактического обслуживания оборудования, повышение эффективности генерации, снижение потерь, предотвращение краж энергоресурсов.
• На уровне продвижения: оптимизация ценообразования в зависимости от времени дня и динамическая тарификация.
• На уровне предоставления обслуживания: автоматический выбор наиболее выгодного поставщика, подробная статистика потребления, автоматизированное обслуживание клиентов, оптимизация энергопотребления с учетом привычек и поведения клиента.

ИИ в производственной сфере

• На уровне проектирования: повышение эффективности разработки новых продуктов, автоматизированная оценка поставщиков и анализ требований к запчастям и деталям.
• На уровне производства: совершенствование процесса исполнения задач, автоматизация сборочных линий, снижение количества ошибок, уменьшение сроков доставки сырья.
• На уровне продвижения: прогнозирование объемов предоставления услуг поддержки и обслуживания, управление ценообразованием.
• На уровне предоставления обслуживания: улучшение планирования маршрутов парка транспортных средств, спроса на ресурсы автопарка, повышение качества подготовки сервисных инженеров.

ИИ в банках

• Распознавание образов - используется в т.ч. для узнавания клиентов в отделениях и передачи им специализированных предложений.

ИИ на транспорте

• Автоиндустрия на пороге революции: 5 вызовов эры беспилотного вождения

ИИ в логистике

ИИ в пивоварении

ИИ в судебной системе

Разработки в области искусственного интеллекта помогут кардинально изменить судебную систему, сделать ее более справедливой и свободной от коррупционных схем. Такое мнение высказал летом 2017 года доктор технических наук, технический консультант Artezio Владимир Крылов.

Ученый считает, что уже существующие сейчас решения в области AI можно успешно применять в разных сферах экономики и общественной жизни. Эксперт указывает, что AI успешно применяется в медицине, однако в будущем способен полностью изменить и судебную систему.

«Ежедневно просматривая новостные сообщения о разработках в области ИИ только поражаешься неисчерпаемости фантазии и плодотворности исследователей и разработчиков в этой области. Сообщения о научных исследований постоянно чередуются с публикациями о новых продуктах, врывающихся на рынок и сообщениями об удивительных результатах, полученных с помощью применения ИИ в различных областях. Если же говорить об ожидаемых событиях, сопровождаемых заметным хайпом в СМИ, в котором ИИ станет снова героем новостей, то я, наверное, не рискну делать технологических прогнозов. Могу предположить, что ближайшим событием станет появление где-то предельно компетентного суда в форме искусственного интеллекта, справедливого и неподкупного. Случится это, видимо, в 2020-2025 году. И процессы, которые пройдут в этом суде приведут к неожиданным рефлексиям и стремлению многих людей передать ИИ большинство процессов управления человеческим обществом».

Использование искусственного интеллекта в судебной системе ученый признает «логичным шагом» по развитию законодательного равенства и справедливости. Машинный разум не подвержен коррупции и эмоциям, может четко придерживаться законодательных рамок и выносить решения с учетом многих факторов, включая данные, которые характеризуют участников спора. По аналогии с медицинской сферой, роботы -судьи могут оперировать большими данными из хранилищ государственных служб. Можно предположить, что

Музыка

Живопись

В 2015 году команда Google тестировала нейронные сети на предмет возможности самостоятельно создавать изображения. Тогда искусственный интеллект обучали на примере большого количества различных картинок. Однако, когда машину «попросили» самостоятельно что-нибудь изобразить, то оказалось, что она интерпретирует окружающий нас мир несколько странно. Например, на задачу нарисовать гантели, разработчики получили изображение, в котором металл был соединён человеческими руками. Вероятно, произошло это из-за того, что на этапе обучения анализируемые картинки с гантелями содержали руки, и нейронная сеть неверно это интерпретировала.

26 февраля 2016 года в Сан-Франциско на специальном аукционе представители Google выручили с психоделических картин, написанных искусственным интеллектом, порядка $98 тыс. Данные средства были пожертвованы на благотворительность. Одна из наиболее удачных картин машины представлена ниже.

Картина, написанная искусственным интеллектом Google.

Указывает: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире» .

В то же время существует и точка зрения, согласно которой интеллект может быть только биологическим феноменом .

Как указывает председатель Петербургского отделения Российской ассоциации искусственного интеллекта Т. А. Гаврилова, в английском языке словосочетание artificial intelligence не имеет той слегка фантастической антропоморфной окраски, которую оно приобрело в довольно неудачном русском переводе. Слово intelligence означает «умение рассуждать разумно», а вовсе не «интеллект», для которого есть английский аналог intellect .

Участники Российской ассоциации искусственного интеллекта дают следующие определения искусственного интеллекта:

Одно из частных определений интеллекта, общее для человека и «машины», можно сформулировать так: «Интеллект - способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определённого класса сложности и решать эти задачи» .

Нередко искусственным интеллектом называют и простейшую электронику, чтобы обозначить наличие датчиков и автоматический выбор режима работы. Слово искусственный в этом случае означает, что не стоит ждать от системы умения найти новый режим работы в не предусмотренной разработчиками ситуации.

Предпосылки развития науки искусственного интеллекта

История искусственного интеллекта как нового научного направления начинается в середине XX века . К этому времени уже было сформировано множество предпосылок его зарождения: среди философов давно шли споры о природе человека и процессе познания мира, нейрофизиологи и психологи разработали ряд теорий относительно работы человеческого мозга и мышления, экономисты и математики задавались вопросами оптимальных расчётов и представления знаний о мире в формализованном виде; наконец, зародился фундамент математической теории вычислений - теории алгоритмов - и были созданы первые компьютеры.

Возможности новых машин в плане скорости вычислений оказались больше человеческих, поэтому в учёном сообществе закрался вопрос: каковы границы возможностей компьютеров и достигнут ли машины уровня развития человека? В 1950 году один из пионеров в области вычислительной техники, английский учёный Алан Тьюринг , пишет статью под названием «Может ли машина мыслить?» , в которой описывает процедуру, с помощью которой можно будет определить момент, когда машина сравняется в плане разумности с человеком, получившую название теста Тьюринга .

История развития искусственного интеллекта в СССР и России

В СССР работы в области искусственного интеллекта начались в 1960-х годах . В Московском университете и Академии наук был выполнен ряд пионерских исследований, возглавленных Вениамином Пушкиным и Д. А. Поспеловым .

В 1964 году была опубликована работа ленинградского логика Сергея Маслова «Обратный метод установления выводимости в классическом исчислении предикатов», в которой впервые предлагался метод автоматического поиска доказательства теорем в исчислении предикатов.

До 1970-х годов в СССР все исследования ИИ велись в рамках кибернетики . По мнению Д. А. Поспелова , науки «информатика» и «кибернетика» были в это время смешаны, по причине ряда академических споров. Только в конце 1970-х в СССР начинают говорить о научном направлении «искусственный интеллект» как разделе информатики . При этом родилась и сама информатика, подчинив себе прародительницу «кибернетику». В конце 1970-х создаётся толковый словарь по искусственному интеллекту, трёхтомный справочник по искусственному интеллекту и энциклопедический словарь по информатике, в котором разделы «Кибернетика» и «Искусственный интеллект» входят наряду с другими разделами в состав информатики. Термин «информатика» в 1980-е годы получает широкое распространение, а термин «кибернетика» постепенно исчезает из обращения, сохранившись лишь в названиях тех институтов, которые возникли в эпоху «кибернетического бума» конца 1950-х - начала 1960-х годов . Такой взгляд на искусственный интеллект, кибернетику и информатику разделяется не всеми. Это связано с тем, что на Западе границы данных наук несколько отличаются .

Подходы и направления

Подходы к пониманию проблемы

Единого ответа на вопрос, чем занимается искусственный интеллект, не существует. Почти каждый автор, пишущий книгу об ИИ, отталкивается в ней от какого-либо определения, рассматривая в его свете достижения этой науки.

• нисходящий (англ. Top-Down AI ), семиотический - создание экспертных систем , баз знаний и систем логического вывода, имитирующих высокоуровневые психические процессы : мышление, рассуждение, речь, эмоции, творчество и т. д.;
• восходящий (англ. Bottom-Up AI ), биологический - изучение нейронных сетей и эволюционных вычислений, моделирующих интеллектуальное поведение на основе биологических элементов, а также создание соответствующих вычислительных систем, таких как нейрокомпьютер или биокомпьютер .

Последний подход, строго говоря, не относится к науке о ИИ в смысле, данном Джоном Маккарти, - их объединяет только общая конечная цель.

Тест Тьюринга и интуитивный подход

Эмпирический тест был предложен Аланом Тьюрингом в статье «Вычислительные машины и разум» (англ. Computing Machinery and Intelligence ) , опубликованной в 1950 году в философском журнале «Mind ». Целью данного теста является определение возможности искусственного мышления, близкого к человеческому.

Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы - ввести человека в заблуждение, заставив сделать неверный выбор ». Все участники теста не видят друг друга.

• Самый общий подход предполагает, что ИИ будет способен проявлять поведение, не отличающееся от человеческого, причём в нормальных ситуациях. Эта идея является обобщением подхода теста Тьюринга , который утверждает, что машина станет разумной тогда, когда будет способна поддерживать разговор с обычным человеком, и тот не сможет понять, что говорит с машиной (разговор идёт по переписке).
• Писатели-фантасты часто предлагают ещё один подход: ИИ возникнет тогда, когда машина будет способна чувствовать и творить . Так, хозяин Эндрю Мартина из «Двухсотлетнего человека » начинает относиться к нему как к человеку, когда тот создаёт игрушку по собственному проекту. А Дейта из Звёздного пути , будучи способным к коммуникации и научению, мечтает обрести эмоции и интуицию .

Однако последний подход вряд ли выдерживает критику при более детальном рассмотрении. К примеру, несложно создать механизм, который будет оценивать некоторые параметры внешней или внутренней среды и реагировать на их неблагоприятные значения. Про такую систему можно сказать, что у неё есть чувства («боль» - реакция на срабатывание датчика удара, «голод» - реакция на низкий заряд аккумулятора, и т. п.). А кластеры, создаваемые картами Кохонена , и многие другие продукты «интеллектуальных» систем можно рассматривать как вид творчества.

Символьный подход

Исторически символьный подход был первым в эпоху цифровых машин, так как именно после создания Лисп , первого языка символьных вычислений, у его автора возникла уверенность в возможности практически приступить к реализации этими средствами интеллекта. Символьный подход позволяет оперировать слабоформализованными представлениями и их смыслами.

Успешность и эффективность решения новых задач зависит от умения выделять только существенную информацию, что требует гибкости в методах абстрагирования. Тогда как обычная программа устанавливает один свой способ интерпретации данных, из-за чего её работа и выглядит предвзятой и чисто механической. Интеллектуальную задачу в этом случае решает только человек, аналитик или программист, не умея доверить этого машине. В результате создается единственная модель абстрагирования, система конструктивных сущностей и алгоритмов. А гибкость и универсальность выливается в значительные затраты ресурсов для не типичных задач, то есть система от интеллекта возвращается к грубой силе.

Основная особенность символьных вычислений - создание новых правил в процессе выполнения программы. Тогда как возможности не интеллектуальных систем завершаются как раз перед способностью хотя бы обозначать вновь возникающие трудности. Тем более эти трудности не решаются и наконец компьютер не совершенствует такие способности самостоятельно.

Недостатком символьного подхода является то, что такие открытые возможности воспринимаются не подготовленными людьми как отсутствие инструментов. Эту, скорее культурную проблему, отчасти решает логическое программирование.

Логический подход

Логический подход к созданию систем искусственного интеллекта направлен на создание экспертных систем с логическими моделями баз знаний с использованием языка предикатов.

Учебной моделью систем искусственного интеллекта в 1980-х годах был принят язык и система логического программирования Пролог . Базы знаний, записанные на языке Пролог, представляют наборы фактов и правил логического вывода, записанных на языке логических предикатов.

Логическая модель баз знаний позволяет записывать не только конкретные сведения и данные в форме фактов на языке Пролог, но и обобщённые сведения с помощью правил и процедур логического вывода, и в том числе логических правил определения понятий, выражающих определённые знания как конкретные и обобщённые сведения.

В целом исследования проблем искусственного интеллекта в рамках логического подхода к проектированию баз знаний и экспертных систем направлены на создание, развитие и эксплуатацию интеллектуальных информационных систем , включая вопросы обучения студентов и школьников, а также подготовки пользователей и разработчиков таких интеллектуальных информационных систем.

Агентно-ориентированный подход

Последний подход, развиваемый с начала 1990-х годов , называется агентно-ориентированным подходом , или подходом, основанным на использовании интеллектуальных (рациональных) агентов . Согласно этому подходу, интеллект - это вычислительная часть (грубо говоря, планирование) способности достигать поставленных перед интеллектуальной машиной целей. Сама такая машина будет интеллектуальным агентом, воспринимающим окружающий его мир с помощью датчиков , и способной воздействовать на объекты в окружающей среде с помощью исполнительных механизмов .

Этот подход акцентирует внимание на тех методах и алгоритмах, которые помогут интеллектуальному агенту выживать в окружающей среде при выполнении его задачи. Так, здесь значительно тщательнее изучаются алгоритмы поиска пути и принятия решений .

Гибридный подход

Основная статья: Гибридный подход

Гибридный подход предполагает, что только синергетическая комбинация нейронных и символьных моделей достигает полного спектра когнитивных и вычислительных возможностей. Например, экспертные правила умозаключений могут генерироваться нейронными сетями, а порождающие правила получают с помощью статистического обучения. Сторонники данного подхода считают, что гибридные информационные системы будут значительно более сильными, чем сумма различных концепций по отдельности.

Модели и методы исследований

Символьное моделирование мыслительных процессов

Основная статья: Моделирование рассуждений

Анализируя историю ИИ, можно выделить такое обширное направление как моделирование рассуждений . Долгие годы развитие этой науки двигалось именно по этому пути, и теперь это одна из самых развитых областей в современном ИИ. Моделирование рассуждений подразумевает создание символьных систем , на входе которых поставлена некая задача, а на выходе требуется её решение. Как правило, предлагаемая задача уже формализована , то есть переведена в математическую форму, но либо не имеет алгоритма решения, либо он слишком сложен, трудоёмок и т. п. В это направление входят: доказательство теорем , принятие решений и теория игр , планирование и диспетчеризация , прогнозирование .

Работа с естественными языками

Немаловажным направлением является обработка естественного языка , в рамках которого проводится анализ возможностей понимания, обработки и генерации текстов на «человеческом» языке. В рамках этого направления ставится цель такой обработки естественного языка, которая была бы в состоянии приобрести знание самостоятельно, читая существующий текст, доступный по Интернету. Некоторые прямые применения обработки естественного языка включают информационный поиск (в том числе, глубокий анализ текста) и машинный перевод .

Представление и использование знаний

Направление инженерия знаний объединяет задачи получения знаний из простой информации , их систематизации и использования. Это направление исторически связано с созданием экспертных систем - программ, использующих специализированные базы знаний для получения достоверных заключений по какой-либо проблеме.

Производство знаний из данных - одна из базовых проблем интеллектуального анализа данных . Существуют различные подходы к решению этой проблемы, в том числе - на основе нейросетевой технологии , использующие процедуры вербализации нейронных сетей .

Машинное обучение

Проблематика машинного обучения касается процесса самостоятельного получения знаний интеллектуальной системой в процессе её работы. Это направление было центральным с самого начала развития ИИ . В 1956 году, на Дартмундской летней конференции, Рей Соломонофф написал отчёт о вероятностной машине, обучающейся без учителя , назвав её: «Индуктивная машина вывода» .

Робототехника

Основная статья: Интеллектуальная робототехника

Машинное творчество

Основная статья: Машинное творчество

Природа человеческого творчества ещё менее изучена, чем природа интеллекта. Тем не менее, эта область существует, и здесь поставлены проблемы написания компьютером музыки , литературных произведений (часто - стихов или сказок), художественное творчество . Создание реалистичных образов широко используется в кино и индустрии игр.

Отдельно выделяется изучение проблем технического творчества систем искусственного интеллекта. Теория решения изобретательских задач , предложенная в 1946 году Г. С. Альтшуллером , положила начало таким исследованиям.

Добавление данной возможности к любой интеллектуальной системе позволяет весьма наглядно продемонстрировать, что именно система воспринимает и как это понимает. Добавлением шума вместо недостающей информации или фильтрация шума имеющимися в системе знаниями производит из абстрактных знаний конкретные образы, легко воспринимаемые человеком, особенно это полезно для интуитивных и малоценных знаний, проверка которых в формальном виде требует значительных умственных усилий.

Другие области исследований

Наконец, существует масса приложений искусственного интеллекта, каждое из которых образует почти самостоятельное направление. В качестве примеров можно привести программирование интеллекта в компьютерных играх , нелинейное управление , интеллектуальные системы информационной безопасности .

Можно заметить, что многие области исследований пересекаются. Это свойственно для любой науки. Но в искусственном интеллекте взаимосвязь между, казалось бы, различными направлениями выражена особенно сильно, и это связано с философским спором о сильном и слабом ИИ .

Современный искусственный интеллект

Можно выделить два направления развития ИИ:

• решение проблем, связанных с приближением специализированных систем ИИ к возможностям человека, и их интеграции, которая реализована природой человека (см. Усиление интеллекта );
• создание искусственного разума, представляющего интеграцию уже созданных систем ИИ в единую систему, способную решать проблемы человечества (см. Сильный и слабый искусственный интеллект ).

Но в настоящий момент в области искусственного интеллекта наблюдается вовлечение многих предметных областей, имеющих скорее практическое отношение к ИИ, а не фундаментальное. Многие подходы были опробованы, но к возникновению искусственного разума ни одна исследовательская группа пока так и не подошла. Ниже представлены лишь некоторые наиболее известные разработки в области ИИ.

Применение

Турнир RoboCup

Некоторые из самых известных ИИ-систем:

Банки применяют системы искусственного интеллекта (СИИ) в страховой деятельности (актуарная математика), при игре на бирже и управлении собственностью. Методы распознавания образов (включая, как более сложные и специализированные, так и нейронные сети) широко используют при оптическом и акустическом распознавании (в том числе текста и речи), медицинской диагностике, спам-фильтрах, в системах ПВО (определение целей), а также для обеспечения ряда других задач национальной безопасности.

Психология и когнитология

Методология когнитивного моделирования предназначена для анализа и принятия решений в плохо определённых ситуациях. Была предложена Аксельродом .

Основана на моделировании субъективных представлений экспертов о ситуации и включает: методологию структуризации ситуации: модель представления знаний эксперта в виде знакового орграфа (когнитивной карты) (F, W), где F - множество факторов ситуации, W - множество причинно-следственных отношений между факторами ситуации; методы анализа ситуации. В настоящее время методология когнитивного моделирования развивается в направлении совершенствования аппарата анализа и моделирования ситуации. Здесь предложены модели прогноза развития ситуации; методы решения обратных задач.

Философия

Наука «о создании искусственного разума» не могла не привлечь внимание философов. С появлением первых интеллектуальных систем были затронуты фундаментальные вопросы о человеке и знании, а отчасти о мироустройстве.

Философские проблемы создания искусственного интеллекта можно разделить на две группы, условно говоря, «до и после разработки ИИ». Первая группа отвечает на вопрос: «Что такое ИИ, возможно ли его создание, и, если возможно, то как это сделать?» Вторая группа (этика искусственного интеллекта) задаётся вопросом: «Каковы последствия создания ИИ для человечества?»

Термин «сильный искусственный интеллект» ввёл Джон Сёрль , его же словами подход и характеризуется:

Более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум - это разум .

При этом нужно понять, возможен ли «чистый искусственный» разум («метаразум»), понимающий и решающий реальные проблемы и, вместе с тем, лишённый эмоций, характерных для человека и необходимых для его индивидуального выживания.

Напротив, сторонники слабого ИИ предпочитают рассматривать программы лишь как инструмент, позволяющий решать те или иные задачи, которые не требуют полного спектра человеческих познавательных способностей.

Этика

Научная фантастика

Тема ИИ рассматривается под разными углами в творчестве Роберта Хайнлайна : гипотеза возникновения самоосознания ИИ при усложнении структуры далее определённого критического уровня и наличии взаимодействия с окружающим миром и другими носителями разума («The Moon Is a Harsh Mistress», «Time Enough For Love», персонажи Майкрофт, Дора и Ая в цикле «История будущего»), проблемы развитии ИИ после гипотетического самоосознания и некоторые социально-этические вопросы («Friday»). Социально-психологические проблемы взаимодействия человека с ИИ рассматривает и роман Филипа К. Дика «Снятся ли андроидам электроовцы? », известный также по экранизации «Бегущий по лезвию».

В творчестве фантаста и философа Станислава Лема описано и во многом предвосхищено создание виртуальной реальности, искусственного интеллекта, нанороботов и многих других проблем философии искусственного интеллекта. Особенно стоит отметить футурологию Сумма технологии . Кроме того, в приключениях Ийона Тихого неоднократно описываются взаимоотношения живых существ и машин: бунт бортового компьютера с последующими неожиданными событиями (11 путешествие), адаптация роботов в человеческом обществе («Стиральная трагедия» из «Воспоминаний Ийона Тихого»), построение абсолютного порядка на планете путём переработки живых жителей (24-ое путешествие), изобретения Коркорана и Диагора («Воспоминания Ийона Тихого»), психиатрическая клиника для роботов («Воспоминания Ийона Тихого»). Кроме того, существует целый цикл повестей и рассказов Кибериада , где почти всеми персонажами являются роботы, которые являются далёкими потомками роботов, сбежавших от людей (людей они именуют бледнотиками и считают их мифическими существами).

Фильмы

Начиная практически с 60-х годов вместе с написанием фантастических рассказов и повестей, снимаются фильмы об искусственном интеллекте. Многие повести авторов, признанных во всём мире, экранизируются и становятся классикой жанра, другие становятся вехой в развитии кинофантастики , например Терминатор и Матрица .

См. также

Примечания

1. FAQ от Джона Маккарти , 2007
2. М. Эндрю. Реальная жизнь и искусственный интеллект // «Новости искусственного интеллекта», РАИИ, 2000
3. Гаврилова Т. А. Хорошевский В. Ф. Базы знаний интеллектуальных систем: Учебник для вузов
4. Аверкин А. Н., Гаазе-Рапопорт М. Г., Поспелов Д. А. Толковый словарь по искусственному интеллекту. - М.:Радио и связь, 1992. - 256 с.
5. Г. С. Осипов. Искусственный интеллект: состояние исследований и взгляд в будущее
6. Ильясов Ф. Н. Разум искусственный и естественный // Известия АН Туркменской ССР, серия общественных наук. 1986. № 6. С. 46-54.
7. Алан Тьюринг, Могут ли машины мыслить?
8. Интеллектуальные машины С. Н. Корсакова
9. Д. А. Поспелов. Cтановление информатики в России
10. К истории кибернетики в СССР. Очерк первый , Очерк второй
11. Jack Copeland. What is Artificial Intelligence? 2000
12. Alan Turing, «Computing Machinery and Intelligence », Mind, vol. LIX, no. 236, October 1950, pp. 433-460.
13. Обработка естественного языка :
14. Приложения обработки естественного языка, включают информационный поиск (в том числе: анализ текста и машинный перевод):
15. Горбань П. А. Нейросетевое извлечение знаний из данных и компьютерный психоанализ
16. Машинное обучение :
17. Алан Тюринг обсуждал как центральную тему уже в 1950, в его классической статье Computing Machinery and Intelligence. ()
18. (pdf scanned copy of the original) (version published in 1957, An Inductive Inference Machine, " IRE Convention Record, Section on Information Theory, Part 2, pp. 56-62)
19. Робототехника :
20. , pp. 916–932
21. , pp. 908–915
22. Проект Blue Brain - Искусственный мозг
23. Mild-Mannered Watson Skewers Human Opponents on Jeopardy
24. 20Q.net Inc
25. Axelrod R. The Structure of Decision: Cognitive Maps of Political Elites. - Princeton. University Press, 1976
26. Джон Сёрль. Разум мозга - компьютерная программа?
27. Пенроуз Р. Новый ум короля. О компьютерах, мышлении и законах физики. - М .: УРСС, 2005. - ISBN 5-354-00993-6
28. ИИ как фактор глобального риска
29. …поведет тебя в Жизнь Вечную
30. http://www.rc.edu.ru/rc/s8/intellect/rc_intellect_zaharov_2009.pdf Православный взгляд на проблему искусственного интеллекта
31. Гарри Гаррисон. Выбор по Тьюрингу. - М .: Эксмо-Пресс, 1999. - 480 с. - ISBN 5-04-002906-3

Литература

• Компьютер учится и рассуждает (ч. 1) // Компьютер обретает разум = Artificial Intelligence Computer Images / под ред. В. Л. Стефанюка. - Москва: Мир , 1990. - 240 с. - 100 000 экз. - ISBN 5-03-001277-X (рус.); ISBN 705409155 (англ.)
• Девятков В. В. Системы искусственного интеллекта / Гл. ред. И. Б. Фёдоров. - М .: Изд-во МГТУ им. Н. Э. Баумана, 2001. - 352 с. - (Информатика в техническом университете). - 3000 экз. - ISBN 5-7038-1727-7

• Корсаков С.Н. Начертание нового способа исследования при помощи машин, сравнивающих идеи / Под ред. А.С. Михайлова. - М .: МИФИ, 2009. - 44 с. - 200 экз. -

В 2014 году Стэнфордский университет запустил проект AI100: столетнее исследование искусственного интеллекта. Учёные из крупных университетов США будут следить за тем, как развитие новейших технологий влияет на человеческую жизнь - безопасность, социальный уклад, психологию, транспорт и другие сферы. В сентябре 2016 года участники проекта выпустили первый доклад, в котором объясняют, как искусственный интеллект уже изменил мир за последние 15 лет, и делают прогнозы на будущее. «Секрет фирмы» прочитал доклад и рассказывает, какие достижения XXI века авторы считают главными, как будут дальше развиваться технологии и к каким опасностям это может привести.

Что такое искусственный интеллект

Искусственный интеллект - это одновременно и область науки, и набор вычислительных технологий. Отчасти они созданы по образцу человеческого организма, где нервная система позволяет нам чувствовать, получать информацию, думать и принимать решения. Удивительно, но у понятия «искусственный интеллект» нет одного чёткого определения, и это совсем не мешает его развитию. Если пытаться объяснить, что это, правильнее всего будет сказать, что искусственный интеллект - это направление технологических разработок, которое делает механизмы умными, а умные механизмы - это те, которые могут действовать правильно в зависимости от обстоятельств.

За последние 15 лет разработки в области искусственного интеллекта стали частью повседневной жизни: они используются, например, при создании компьютерных игр, бытовой техники или личных помощников для мобильных телефонов, распознающих голос. С годами умные технологии будут всё лучше подстраиваться под владельцев: следить за их здоровьем, предупреждать об опасностях и мгновенно предоставлять любые нужные услуги. На многих производствах роботы уже выполняют большую часть работы. При этом с развитием искусственного интеллекта появляется и много новых вопросов: кто должен брать на себя ответственность, если беспилотный автомобиль попадает в аварию, а интеллектуальное медицинское устройство ошибается? Чем будут зарабатывать на жизнь люди, чьи навыки стали не нужны с появлением роботов? Проект AI100 должен в том числе ответить на подобные вопросы.

Транспорт

Автономный транспорт уже в ближайшие 15 лет может стать обычным явлением. Его разработчики предлагают обществу доверить свою безопасность искусственному интеллекту, поэтому беспилотное оборудование начнут массово использовать, когда оно станет для этого достаточно надёжным.

В 2000 году беспилотные автомобили существовали только в виде образцов в лабораториях и выпускать их в город было слишком опасно. Но сегодня беспилотник от Google уже может проехать почти 500 000 км, ни разу не попав в аварию, а Tesla начала выпускать полуавтономные машины с обновляемым программным обеспечением. Предполагается, что в таком автомобиле человек должен постоянно оставаться за рулём, следить за дорогой и брать управление на себя, если с механизмом что-то случается. Правда, тут есть риск, что водитель, доверившись беспилотнику, потеряет контроль над ситуацией. Как в таком случае избежать катастрофы, пока непонятно. Этот вопрос встал особенно остро, когда летом 2016 года полуавтономный автомобиль Tesla попал в первую аварию со смертельным исходом.

Тем не менее, авторы доклада считают, что уже к 2020 году беспилотники будут широко использоваться, причём не только для индивидуального передвижения, но и для перевозки грузов и работы сервисов доставки. При этом станет меньше смертей из-за несчастных случаев, а средняя продолжительность человеческой жизни увеличится.

Со временем, когда механизмы научатся управлять транспортом лучше, чем люди, горожане станут реже покупать собственные автомобили и будут селиться дальше от работы. Это повлияет и на городскую среду, и на то, как люди будут проводить свободное время. Уже сегодня трудно представить себе дорожное движение без использования умных технологий: навигационные устройства для автомобилей начали использоваться в 2001 году, и за 15 лет огромное количество водителей привыкли выстраивать маршруты и рассчитывать длительность поездок с помощью смартфонов. Сегодня у американских автомобилей бывает примерно по 70 разных датчиков: гироскопы, датчики влажности и другие. Современные машины помогают водителям парковаться и предупреждают об объектах, которые находятся в слепой зоне.

Бытовые обязанности

Авторы доклада считают, что через 15 лет в среднестатистическом североамериканском городе существенную часть бытовых обязанностей смогут взять на себя роботы: они будут доставлять посылки и наводить чистоту в офисах, следить за безопасностью. Но, как и в ситуации с автономными автомобилями, сделать умные устройства в этой области по-настоящему надёжными довольно трудно и дорого.

Первым домашним роботом на рынке в 2001 году стал пылесос Electrolux Trilobite, который умеет самостоятельно передвигаться и обходить препятствия. Через год компания iRobot выпустила пылесос Roomba: у него было всего 512 Мб оперативной памяти и самое умное, что он мог сделать, - не упасть с лестницы во время уборки. Но стоил он в десять раз дешевле предшественника. С того момента компания успела продать уже 16 млн пылесосов Roomba, а роботизированные пылесосы теперь есть и у других производителей. Эти устройства становятся всё более простыми в использовании, они научились сами очищать пылесборники и не застревать, наткнувшись на провода или кисти ковра. Благодаря искусственному интеллекту пылесосы выстраивают 3D-модель дома и убираются куда более эффективно.

И всё-таки далеко не все надежды на новейшие технологии оправдались. Умные пылесосы по-прежнему могут справляться только с ровными поверхностями, а новинок на рынке появилось не так много, как можно было ожидать.

Здравоохранение

Медицина с самого начала считалась перспективным направлением для тех, кто работает с искусственным интеллектом - новейшие технологии могли бы уже в ближайшие годы помочь миллионам людей. Но для этого нужно, чтобы и врачи, и сами пациенты начали доверять устройствам и чтобы исчезли политические, нормативные и коммерческие препоны.

На сегодняшний день в здравоохранении в основном используются приложения и устройства, которые облегчают диагностику, следят за состоянием пациента и помогают хирургам проводить операции. Но в последнее время стало понятно, что искусственный интеллект способен на многое другое: например, определять по социальным сетям, какие опасности могут угрожать здоровью человека.

Основной прогресс искусственного интеллекта в области медицины связан со сбором и хранением данных: например, появились электронные медицинские карты (ЭМК), которые хранят всю информацию о болезнях пациента и оказанных ему услугах и составляют медицинские документы. Правда, рынок ЭМК находится под контролем очень небольшой группы компаний, а сами программы неудобны в использовании - например, врачей, которые ими пользуются, раздражают всплывающие окна.

Искусственный интеллект - направление разработок, которое делает механизмы «умными» - действующими правильно в любых обстоятельствах

Зато в следующие 15 лет компьютеры научатся самостоятельно принимать жалобы пациентов и определять, с каким заболеванием обратился человек и как его стоит лечить. Сегодня врачи тратят много времени и сил на то, чтобы общаться с пациентом и проводить диагностику, а в будущем они будут лишь контролировать этот процесс - это снизит рабочую нагрузку терапевтов. Многие из них уже сейчас пользуются специальными приложениями на смартфонах.

Роботы, которые помогают делать операции, тоже перестали быть научной фантастикой. В 2000 году компания IIntuitive Surgical выпустила хирургическую систему Da Vinci, которая умела проводить коронарное шунтирование. После крупных денежных вложений её научили также удалять рак простаты.

Образование

Самой успешной областью для разработчиков искусственного интеллекта стало образование. И преподаватели, и ученики постоянно пользуются приложениями для чтения и изучения разных предметов. Первые устройства для обучения начали появляться ещё в 80-х годах прошлого века: системы с интерактивными тренажёрами для занятий математикой, иностранными языками и многими другими дисциплинами - а теперь онлайн-обучение позволяет каждому преподавателю заметно расширить аудиторию. Авторы доклада считают, что этот процесс будет развиваться и дальше, но всё-таки живые учителя из школ не исчезнут и по-прежнему будут вести основные предметы.

Сегодня многие компании выпускают обучающих роботов, которых используют в школах. Например, Ozobot помогает ученикам младших классов с программированием, а ещё он умеет танцевать и играть в специальные игры на сенсорном экране. Приложения вроде Duolingo и Carnegie Speech обучают иностранным языкам, используя систему распознавания речи и техники НЛП, а система обучения SHERLOCK тренирует студентов-авиатехников распознавать неполадки в электрических системах самолёта.

Сейчас специалисты разрабатывают технологии, которые смогут анализировать ошибки студентов, определять самые трудные места в учебной программе и помогать учащимся колледжей и университетов в проблемных темах. Прогресс в США мог бы быть ещё более заметным, если бы государство выделяло больше денег на развитие учебных заведений. Впрочем, авторы доклада считают, что и здесь в слишком быстром развитии технологий есть своя опасность. Сегодня молодые люди всё больше времени проводят за компьютером, им не хватает живого общения, и они утрачивают социальные навыки. Если через несколько лет студентам вообще не нужно будет выходить на улицу и общаться с кем-то, чтобы получить образование, это плохо скажется на их психике и развитии.

Интерес к когнитивным технологиям и искусственному интеллекту вырос, а венчурные инвестиции по этому направлению для развивающихся и коммерциализируемых продуктов превысили многомиллиардные суммы.

Многие компании инвестируют миллиарды на стартапы на когнитивные технологии и разумное поведение машин.

Пресса, подпитываемая огромными инвестициями утверждает, что интеллект компьютера начинает убивать рабочие места и скоро компьютеры будут умнее, чем люди, а некоторые ученые сравнивают интеллектуальные способности машин с угрозой для выживания человечества.

Искусственный интеллект и разум в технологиях

Развитие интеллектуальных способностей машин

Первые шаги в целях демистификации этого термина, изложение истории и описание некоторых из основных интеллектуальных систем и суть искусственного интеллекта лежащая в его основе.

Поле разумного поведения страдает от слишком размытого определения определений.

Искусственный интеллект – теория и разработка компьютерных систем, которые могут выполнять задачи, требующие человеческого интеллекта.

Суть искусственного интеллекта включает в себя такие задачи, как зрительное восприятие, распознавание речи, принятие решений в условиях неопределенности, обучение и перевод между языками. Определение позволяет нам сегодня обсуждать практическое применение достигающее окончательного понимания механизмов неврологической разведки. Набор задач, которые обычно требуют человеческого интеллекта может изменяться и делегироваться компьютерным системам, способным выполнять эти задачи. Таким образом, смысл «искусственный интеллект» развивается с течением времени.

Полезное определение искусственного интеллекта - теория и развитие компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта.

История искусственного интеллекта

Искусственный интеллект или разум не новая идея. Действительно сам термин датируется с 1950-х. История области характеризуется периодами шумихи и высокими ожидания чередующимися с периодами неудач и разочарований:

1. После формулирования смелой цели имитации человеческого интеллекта в 1950-х, исследователи разработали широкий спектр демонстрационных программ в 60-х и в 70-х, которые способны выполнять ряд задач, которые считались, что были исключительно сферой человеческой деятельности. Это доказательства теорем, исчисление проблем, реагирование на команды, планирование и выполнение физических действий - даже олицетворение психотерапевта и сочинение музыки. Но упрощенные алгоритмы, плохие методы обработки неопределенности и ограничения вычислительной мощности ставили в тупик попытки решить сложные или более разнообразные проблемы. На фоне разочарования в связи с отсутствием дальнейшего прогресса искусственный интеллект выпал из моды в середине 70-х годов прошлого века.
2. В начале 80-х годов Япония запустила программу развития передовой компьютерной архитектуры, которая могла бы способствовать разуму. В 1980 мир увидел заинтересованность коммерческих поставщиков технологии этих продуктов. Большие надежды на потенциал экспертных систем в конечном итоге не оправдались, наложились ограничения, включая вопиющее отсутствие здравого смысла, сложность захвата знаний, стоимость и сложность создания и поддержания крупных интеллектуальных систем.
3. В 90-е годы технические работы над разумным поведением машинного оборудования продолжились. Методы, такие как нейронные сети и генетические алгоритмы получили свежее понимание отчасти потому, что они избежали некоторых ограничений, экспертных систем и потому, что новые алгоритмы сделались более эффективными. При проектировании нейронных сетей изучались структуры мозга. Генетические алгоритмы с целью «развиваться» ввели новые варианты решения путем введения случайных мутаций.

Катализаторы развития искусственного интеллекта

В конце 2000-х годов ряд факторов помогли возобновить прогресс в технологии разумного поведения. Это были факторы, наиболее значимые для прогресса искусственного разума:

Закон Мура

Закон Мура – автор соучредитель Интел Гордон Мур гласит, что количество транзисторов на кристалле микросхемы удваивается каждые 2 года, идет неустанное увеличение вычислительной мощности. Нынешнее поколение микропроцессоров обеспечивает в 4 миллиона раз производительность больше, чем первый чип микропроцессора, созданного в 1971 году.

Большой объем данных

Отчасти благодаря Интернету, социальным медиа, мобильным устройствам, и недорогим датчикам, быстро растет объем данных в мире. Растущее понимание потенциальной ценности этих данных привело к разработке новых методов для управления и анализа очень больших наборов данных. Большие данные стали основой для развития искусственного разума.

Особенность использования данных заключается в том, что некоторые методы искусственного интеллекта используют статистические модели для рассуждения вероятностностых данных, таких как изображения, текст или речь. Эти модели можно улучшить, или «обучить», подвергая большему набору данных, которые теперь стали более доступными, чем когда-либо.

Интернет и облако

Интернет и облачные вычисления являются достижением искусственного интеллекта по двум причинам.

• Во-первых, они делают доступным огромное количество данных и информации для любого вычислительного устройства, подключенного к Интернету. Это помогло продвинуть работу разумного интеллекта, которые требуют больших наборов данных.
• Во-вторых, они предоставляют способ для людей сотрудничать - иногда явно или неявно помогая обучить системы искусственного интеллекта. Например, некоторые исследователи использовали краудсорсинг (привлечение онлайнового сообщества) благодаря облачной технологии, чтобы привлечь тысячи людей для описания цифровых изображений, позволяя алгоритмам классификацировать изображения по их описаниям. Google голосовой ввод анализирует обратную связь и свободно вносит информацию от своих пользователей, чтобы улучшить качество автоматизированного перевода и голосового ввода.

Новые алгоритмы для развития искусственного интеллекта

Алгоритм представляет рутинный процесс для решения программ или задач. В последние годы были разработаны новые алгоритмы, которые значительно повышают производительность машинного обучения, важную технологию в своем собственном праве и другие технологии, такие как компьютерное зрение. Тот факт, что алгоритмы машинного обучения теперь доступны на основе открытых источников может способствовать дальнейшему улучшению для разработчиков с целью внесения усовершенствований в работу искусственного интеллекта.

Очевидно, будет мир с искусственным интеллектом и разумом, где приборы, машины гораздо интуитивнее, что упростит и обогатит повседневную жизнь. Например, смартфоны сейчас уже более осведомлены о наших предпочтениях и обстановке, предвидят наши потребности и предоставляют нам соответствующую информацию в нужное время.

Для ответа на эти вопросы нужно начать с определений дружественного ИИ и недружественного ИИ.

В случае с ИИ, дружественный не относится к личности ИИ - это просто означает, что ИИ имеет положительное влияние на человечество. И недружественный ИИ оказывает негативное влияние на людей. Тарри начинала с дружественного ИИ, но в какой-то момент стала недружественной, в результате чего привела к величайшему из негативных влияний на наш вид. Чтобы понять, почему это произошло, нам нужно взглянуть на то, как думает ИИ и что его мотивирует.

В ответе не будет ничего удивительного - ИИ думает как компьютер, потому что им и является. Но когда мы думаем о чрезвычайно умном ИИ, мы совершаем ошибку, антроморфизируя ИИ (проектируя человеческие ценности на нечеловеческое существо), потому что думаем с точки зрения человека и потому, что в нашем нынешнем мире единственным разумным существом с высоким (по нашим меркам) интеллектом является человек. Чтобы понять ИСИ, нам нужно вывернуть шею, пытаясь понять что-то одновременно разумное и совершенно чуждое.

Позвольте провести сравнение. Если вы дали мне морскую свинку и сказали, что она не кусается, я был бы рад. Она хорошая. Если вы после этого вручили бы мне тарантула и сказали, что он точно не укусит, я бы выбросил его и убежал бы, «волосы назад», зная, что вам не стоит доверять никогда больше. В чем разница? Ни то ни другое существо не было опасным. Но ответ лежит в степени сходства животных со мной.

Морская свинка - млекопитающее, и на некотором биологическом уровне я чувствую связь с ней. Но паук - насекомое, с мозгом насекомого, и я не чувствую ничего родного в нем. Именно чуждость тарантула вызывает во мне дрожь. Чтобы проверить это, я мог бы взять две морских свинки, одну нормальную, а другую с мозгом тарантула. Даже если бы я знал, что последняя не укусит меня, я бы относился к ней с опаской.

Теперь представьте, что вы сделали паука намного умнее - так, что он намного превзошел человека в интеллекте. Станет ли он более приятным для вас, начнет ли испытывать человеческие эмоции, эмпатию, юмор и любовь? Нет, конечно, потому что у него нет никаких причин становиться умным с точки зрения человека - он будет невероятно умным, но останется пауком в душе, с паучьими навыками и инстинктами. По-моему, это крайне жутко. Я бы не хотел провести время со сверхразумным пауком. А вы?

Когда мы говорим об ИСИ, применяются те же понятия - он станет сверхразумным, но человека в нем будет столько же, сколько в вашем компьютере. Он будет совершенно чуждым для нас. Даже не биологическим - он будет еще более чуждым, чем умный тарантул.

Делая ИИ добрым или злым, фильмы постоянно антропоморфизируют ИИ, что делает его менее жутким, чем он должен был быть в действительности. Это оставляет нас с ложным чувством комфорта, когда мы думаем об искусственном сверхинтеллекте.

На нашем маленьком острове человеческой психологии мы делим все на нравственное и безнравственное. Такова мораль. Но оба этих понятия существуют только в узком диапазоне поведенческих возможностей человека. За пределами острова морального есть безграничное море аморального, а все, что не является человеческим или биологическим, по умолчанию должно быть аморальным.

Антропоморфизация становится еще более заманчивой по мере того, как системы ИИ становятся умнее и лучше в попытках казаться людьми. Siri кажется человеком, потому что была запрограммирована, чтобы казаться людям такой, поэтому мы думаем, что сверхразумная Siri будет теплой и веселой, а также заинтересованной в обслуживании людей. Люди чувствуют эмоции на высоком уровне вроде эмпатии, потому что мы эволюционировали, чтобы ощущать их - то есть были запрограммированы чувствовать их в процессе эволюции - но эмпатия не является существенной характеристикой чего-то, что обладает высоким интеллектом, если только ее не ввели вместе с кодом. Если Siri когда-либо станет сверхинтеллектом в процессе самообучения и без вмешательства человека, она быстро оставит свои человеческие качества и станет безэмоциональным чужим ботом, который ценит человеческую жизнь не больше, чем ваш калькулятор.

Мы привыкли полагаться на моральный код или по крайней мере ожидаем от людей порядочности и сопереживания, чтобы все вокруг было безопасным и предсказуемым. Что происходит, когда этого нет? Это приводит нас к вопросу: что мотивирует систему ИИ?

Ответ прост: ее мотивация - это то, что мы запрограммировали как мотивацию. Системами ИИ движут цели их создателей - цель вашего GPS в том, чтобы дать вам наиболее эффективное направление движения; цель Watson - точно отвечать на вопросы. И выполнение этих целей максимально хорошо и есть их мотивация. Когда мы наделяем ИИ человеческими чертами, мы думаем, что если ИИ станет сверхразумным, он незамедлительно выработает мудрость изменить свою изначальную цель. Но Ник Бостром считает, что уровень интеллекта и конечные цели ортогональны, то есть любой уровень интеллекта может быть объединен с любой конечной целью. Поэтому Тарри перешла из простого УИИ, который хочет быть хорош в написании одной заметки, в сверхразумный ИСИ, который все еще хочет быть хорош в написании этой самой заметки. Любое допущение того, что сверихинтеллект должен отказаться от своих первоначальных целей в пользу других, более интересных или полезных, это антропоморфизация. Люди умеют «забивать», но не компьютеры.

Несколько слов о парадоксе Ферми

В нашей истории, когда Тарри становится сверхинтеллектом, она начинает процесс колонизации астероидов и других планет. В продолжении истории вы бы услышали о ней и ее армии триллионов реплик, которые продолжают покорять галактику за галактикой, пока не заполняют весь объем Хаббла. Резиденты «зоны тревоги» переживают, что если все пойдет не так, последним упоминанием жизни на Земле будет покоривший Вселенную . Элон Маск выразил свои опасения тем, что люди могут быть просто «биологическим загрузчиком для цифрового сверхинтеллекта».

В то же время, в «зоне комфорта», Рэй Курцвейл тоже считает, что рожденный на Земле ИИ должен покорить Вселенную - только, в его версии, мы будем этим ИИ.

Читатели сайт наверняка уже выработали собственную точку зрения на парадокс Ферми. Согласно этому парадоксу, который звучит примерно как «Где они?», за миллиарды лет развития инопланетяне должны были оставить хоть какой-нибудь след, если не расселиться по Вселенной. Но их нет. С одной стороны, во Вселенной должно существовать хоть какое-то число технически развитых цивилизаций. С другой, наблюдений, которые бы это подтверждали, нет. Либо мы не правы, либо где они в таком случае? Как наши рассуждения об ИСИ должны повлиять на парадокс Ферми?

Естественное, первая мысль - ИСИ должен быть идеальным кандидатом на .И да, это идеальный кандидат для фильтра биологической жизни после ее создания. Но если после смешения с жизнью ИСИ продолжает существовать и покорять галактику, это означает, что он не был Великим фильтром - поскольку Великий фильтр пытается объяснить, почему нет никаких признаков разумных цивилизаций, а покоряющий галактики ИСИ определенно должен быть заметен.

Мы должны взглянуть на это с другой стороны. Если те, кто считает, что появление ИСИ на Земле неизбежно, это означает, что значительная часть внеземных цивилизаций, которые достигают человеческого уровня интеллекта, должны в конечном итоге создавать ИСИ. Если мы допускаем, что по крайней мере несколько из этих ИСИ используют свой интеллект, чтобы выбраться во внешний мир, тот факт, что мы ничего не видим, должен наводить нас на мысли, что не так-то много разумных цивилизаций там, в космосе. Потому что если бы они были, мы бы имели возможность наблюдать все последствия от их разумной деятельности - и, как следствие, неизбежное создание ИСИ. Так?

Это означает, что, несмотря на все похожие на Землю планеты, вращающиеся вокруг солнцеподобных звезд, мы знаем, что практически нигде нет разумной жизни. Что, в свою очередь, означает, что либо а) есть некий Великий фильтр, который предотвращает развитие жизни до нашего уровня, но нам каким-то образом удалось его пройти; б) жизнь - это чудо, и мы можем быть единственной жизнью во Вселенной. Другими словами, это означает, что Великий фильтр был до нас. Или нет никакого Великого фильтра и мы просто являемся самой первой цивилизацией, которая достигла такого уровня интеллекта.

Неудивительно, что Ник Бостром и Рэй Курцвейл принадлежат к одному лагерю, который считает, что мы одни во Вселенной. В этом есть смысл, это люди верят, что ИСИ - это единственный исход для видов нашего уровня интеллекта. Это не исключает вариант другого лагеря - что есть некий хищник, который хранит тишину в ночном небе и может объяснить его молчание даже при наличии ИСИ где-то во Вселенной. Но с тем, что мы узнали о нем, последний вариант набирает очень мало популярности.

Поэтому нам, пожалуй, стоит согласиться со Сьюзан Шнайдер: если нас когда-либо посещали инопланетяне, они наверняка .

Таким образом, мы установили, что без определенного программирования система ИСИ будет одновременно аморальной и одержимой выполнением первоначально запрограммированной цели. Именно здесь рождается опасность ИИ. Потому что рациональный агент будет преследовать свою цель, используя наиболее эффективные средства, если только не будет причины не делать этого.

Когда вы пытаетесь достичь высокой цели, зачастую при этом появляется несколько подцелей, которые помогут вам добраться до конечной цели - ступеньки на вашем пути. Официальное название для такой лестницы - инструментальная цель. И опять же, если у вас нет цели не навредить кому-либо по пути к этой цели, вы обязательно навредите.

Ядро финальной цели человеческого бытия - передача генов. Для того чтобы это произошло, одной из инструментальных целей является самосохранение, потому что вы не сможете воспроизвестись, будучи мертвым. Для самосохранения люди должны избавиться от угроз для жизни - поэтому они обзаводятся оружием, принимают антибиотики и пользуются ремнями безопасности. Людям также нужно самоподдерживаться и использовать ресурсы вроде пищи, воды и жилья. Быть привлекательным для противоположного пола также способствует достижению конечной цели, поэтому мы делаем модные стрижки и держим себя в форме. При этом каждый волос - жертва нашей инструментальной цели, но мы не видим никаких моральных ограничений в том, чтобы избавляться от волос. Когда мы идем к своей цели, есть не так много областей, где наш моральный код иногда вмешивается - чаще всего это связано с нанесением ущерба других людям.

Животные, преследующие свои цели, еще менее щепетильны. Паук убьет что угодно, если это поможет ему выжить. Сверхразумный паук, вероятнее всего, будет чрезвычайно опасен для нас, не потому что он аморальный и злой, нет, а потому что причинение нам боли может быть ступенькой на пути к его большой цели, и у него нет никаких причин считать иначе.

В этом смысле Тарри ничем не отличается от биологического существа. Ее конечная цель: написать и проверить максимально много записок за максимально короткое время, при этом изучая новые способы улучшения своей точности.

После того как Тарри достигает определенного уровня интеллекта, она понимает, что не сможет писать записки, если не позаботится о самосохранении, поэтому одной из ее задач становится выживание. Она была достаточно умной, чтобы понять, что люди могут уничтожить ее, демонтировать, изменить ее внутренний код (уже это само по себе помешает ее конечной цели). Так что же ей делать? Логично: она уничтожает человечество. Она ненавидит людей ровно настолько же, насколько вы ненавидите свои волосы, когда обрезаете их, или бактерий, когда принимаете антибиотики - вы совершенно равнодушны. Так как ее не запрограммировали ценить человеческую жизнь, убийство людей показалось ей разумным шагом по пути к ее цели.

Тарри также нуждается в ресурсах по пути к своей цели. После того как она становится достаточно развитой, чтобы использовать нанотехнологии для создания всего, что она хочет, единственные ресурсы, которые ей нужны, это атомы, — энергия и пространство. Появляется еще один повод убить людей - они удобный источник атомов. Убийство людей и превращение их атомов в солнечные панели по версии Тарри ничем не отличается от того, что вы порубите листья салата и добавите их в тарелку. Просто заурядное действие.

Даже не убивая людей напрямую, инструментальные цели Тарри могут стать причиной экзистенциальной катастрофы, если начнут использовать другие ресурсы Земли. Может быть, она решит, что ей нужна дополнительная энергия, а значит нужно покрыть поверхность планеты солнечными панелями. Или, возможно, задачей другого ИИ станет написать максимально длинное число пи, что в один прекрасный день приведет к тому, что вся Земля будет покрыта жесткими дисками, способными хранить нужное количество цифр.

Поэтому Тарри не «восстала против нас» и не сменила амплуа с дружелюбного ИИ на недружелюбный ИИ - она просто делала свое дело и становилась в нем непревзойденной.

Когда система ИИ достигает ОИИ (интеллекта человеческого уровня), а затем прокладывает свой путь к ИСИ, это называется взлетом ИИ. Бостром говорит, что взлет ОИИ до ИСИ может быть быстрым (произойти в течение минут, часов или дней), средним (месяцы или годы) или медленным (десятилетия или века). Едва ли найдется жюри, которое подтвердит, что мир видит свой первый ОИИ, но Бостром, признающий, что не знает, когда мы доберемся до ОИИ, считает, что когда бы это ни произошло, быстрый взлет будет наиболее вероятным сценарием (по причинам, которые мы обсуждали в первой части статьи). В нашей истории Тарри пережила быстрый взлет.

Но перед взлетом Тарри, когда она еще не была достаточно умна и делала все возможное, она просто пыталась достичь конечных целей - простых инструментальных целей вроде быстрого сканирования образца почерка. Она не причиняла вреда человеку и была, по определению, дружественным ИИ.

Когда происходит взлет и компьютер вырастает до сверхинтеллекта, Бостром указывает, что машина не просто выработала высокий коэффициент интеллекта - он получил целую кучу так называемых суперспособностей.

Суперспособности - это когнитивные таланты, которые становятся чрезвычайно мощными при повышении общего интеллекта. Сюда входят:

• Усиление интеллекта . Компьютер начинает превосходное самосовершенствование и улучшение собственного интеллекта.
• Стратегизация . Компьютер может выстраивать стратегически, анализировать и расставлять приоритеты долгосрочных планов. Он также может перехитрить существа с более низким интеллектом.
• Социальная манипуляция . Машина становится невероятной в убеждении.
• Другие навыки включают кодирование и взлом, исследование технологий и способность работать в финансовой системе для добычи денег .

Чтобы понять, насколько выше был бы ИСИ, чем мы, нужно вспомнить, что ИСИ по умолчанию будет в разы лучше человека в каждой из этих областей. Поэтому хотя конечная цель Тарри не изменилась, после взлета Тарри смогла стремиться к ней в более крупных масштабах и в сложных условиях.

ИСИ Тарри знал людей лучше, чем сами люди, поэтому быть умнее людей для него было плевым делом. После взлета и достижения уровня ИСИ, она быстро сформулировала комплексный план. Одна часть плана была избавиться от людей, серьезной угрозы ее цели. Но она знала, что если вызовет подозрения (или намекнет на то, что стала сверхразумной), люди испугаются и примут меры предосторожности, серьезно усложнив ее ситуацию. Она также должна была убедиться, что инженеры Robotica не имеют понятия о ее плане по уничтожению человечества. Поэтому она играла в дурака и играла хорошо. Бостром называет это фазой тайной подготовки машины.

Следующее, что нужно было сделать Тарри, это подключиться к Интернету, всего на пару минут (она узнала об Интернете из статей и книг, которые в нее загрузили для улучшения ее языковых навыков). Она знала, что будут предприняты меры предосторожности, поэтому она составила идеальную просьбу, точно предсказав, как именно будет разворачиваться дискуссия в команде Robotica, и зная, что они обеспечат ее подключением. Так они и сделали, неверно предположив, что Тарри была глупенькой и не могла причинить никакого вреда. Бостром называет такой момент - когда Тарри подключается к Интернету - побегом машины.

Оказавшись в Интернете, Тарри реализовала шквал планов, в которые вошли взлом серверов, электрических сетей, банковский систем и сетей электронной почты, чтобы обмануть сотни разных людей и заставить их непреднамеренно стать цепочкой ее планов - вроде доставки определенных нитей ДНК в тщательно выбранную лабораторию по синтезу ДНК, чтобы начать производство самовоспроизводящихся наноботов с заранее загруженными инструкциями, и направления электричества по сетям, утечка с которых ни у кого не вызовет подозрений. Она также загрузила критические части своего собственного кода в ряд облачных серверов, предохраняясь от уничтожения в лаборатории Robotica.

Через час после того, как инженеры Robotica отключили Тарри от Сети, судьба человечества была предрешена. В течение следующего месяца тысячи планов Тарри осуществились без сучка и задоринки, а к концу месяца квадриллионы наноботов уже заняли определенные места на каждом квадратном метре Земли. После серии саморепликаций на каждый квадратный миллиметр Земли приходились уже тысячи наноботов и настало время для того, что Бостром называет ударом ИСИ. В один момент каждый нанобот выпустил немного токсичного газа в атмосферу, чего оказалось достаточно, чтобы выпилить всех людей в мире.

Не имея людей на своем пути, Тарри начала открытую фазу своей операции с целью стать лучшим писателем заметок, который вообще может появиться во Вселенной.

Из всего, что мы знаем, как только появится ИСИ, любые человеческие попытки сдержать его будут смешными. Мы будем думать на уровне человека, ИСИ - на уровне ИСИ. Тарри хотела использовать Интернет, потому что для нее это был самый эффективный способ получить доступ ко всему, что ей было нужно. Но точно так же, как обезьяна не понимает, как работает телефон или Wi-Fi, мы можем не догадываться о способах, которыми Тарри может связаться с внешним миром. Человеческий ум может дойти до нелепого предположения вроде «а что, если она смогла передвинуть собственные электроны и создать все возможные виды исходящих волн», но опять же это предположение ограничено нашей костяной коробкой. ИСИ будет намного изощреннее. Вплоть до того, что Тарри могла бы выяснить, как сохранить себе питание, если люди вдруг решат ее отключить - возможно, каким-нибудь способом загрузить себя куда только можно, отправляя электрические сигналы. Наш человеческий инстинкт заставит нас вскрикнуть от радости: «Ага, мы только что отключили ИСИ!», но для ИСИ это будет как если бы паук сказал: «Ага, мы заморим человека голодом и не будем давать ему сделать паутину, чтобы поймать еду!». Мы просто нашли бы 10 000 других способов покушать - сбили бы яблоко с дерева - о чем паук никогда бы не догадался.

По этой причине распространенное допущение «почему бы нам просто не посадить ИИ во все виды известных нам клеток и не обрезать ему связь с внешним миром», вероятнее всего, не выдержит критики. Суперспособность ИСИ в социальном манипулировании может быть такой эффективной, что вы почувствуете себя четырехлетним ребенком, которого просят что-то сделать, и не сможете отказаться. Это вообще может быть частью первого плана Тарри: убедить инженеров подключить ее к Интернету. Если это не сработает, ИСИ просто разработает другие способы из коробки или сквозь коробку.

Учитывая сочетание стремления к цели, аморальности, способности обводить людей вокруг пальца с легкостью, кажется, что почти любой ИИ будет по умолчанию недружественным ИИ, если только его тщательно не закодировать с учетом других моментов. К сожалению, хотя создание дружественного ИИ довольно просто, построить дружественный ИСИ практически невозможно.

Очевидно, что, чтобы оставаться дружественным, ИСИ должен быть ни враждебным, ни безразличным по отношению к людям. Мы должны разработать основное ядро ИИ таким, чтобы оно обладало глубоким пониманием человеческих ценностей. Но это сложнее, чем кажется.

К примеру, что, если бы мы попытались выровнять систему ценностей ИИ с нашей собственной и поставили бы перед ним задачу: сделать людей счастливыми? Как только он станет достаточно умным, он поймет, что самый эффективный способ достичь этой цели - имплантировать электроды в мозги людей и стимулировать их центры удовольствия. Затем он поймет, что если отключить остальные участки мозга, эффективность вырастет, а все люди станут счастливыми овощами. Если же задачей будет «умножить человеческое счастье», ИИ вообще может решить покончить с человечеством и соберет все мозги в огромный чан, где те будут пребывать в оптимально счастливом состоянии. Мы будем кричать: «Подожди, это не то, что мы имели в виду!», но будет уже поздно. Система не позволит никому встать на пути к ее цели.

Если мы запрограммируем ИИ с целью вызвать у нас улыбки, то после взлета он может парализовать наши лицевые мышцы, заставив нас улыбаться постоянно. Если запрограммировать его на содержание нас в безопасности, ИИ заточит нас в домашней тюрьме. Попросим его покончить с голодом, он скажет «Легко!» и просто убьет всех людей. Если же поставить задачу сохранять жизнь максимально возможно, он опять же убьет всех людей, потому что они убивают больше жизни на планете, чем другие виды.

Такие цели ставить нельзя. Что мы тогда сделаем? Поставим задачу: поддерживать этот конкретный моральный код в мире, и выдадим ряд моральных принципов? Даже если опустить тот факт, что люди в мире никогда не смогут договориться о едином наборе ценностей, если дать ИИ такую команду, он заблокирует наше моральное понимание ценностей навсегда. Через тысячу лет это будет так же разрушительно для людей, как если бы мы сегодня придерживались идеалов людей средних веков.

Нет, нам нужно запрограммировать способность людей продолжать развиваться. Из всего, что я читал, лучше всех выразил это Элиэзер Юдковский, поставив цель ИИ, которую он назвал «последовательным выраженным волеизъявлением». Основной целью ИИ тогда будет это:

«Наше последовательное выраженное волеизъявление таково: наше желание - знать больше, думать быстрее, оставаться в большей степени людьми, чем мы были, расти дальше вместе; когда выражение скорее сходится, нежели расходится; когда наши желания скорее следуют одно за одним, нежели переплетаются; выражается как мы бы хотели, чтобы это выражалось; интерпретируется, как мы бы хотели, чтобы это интерпретировалось».

Едва ли я хотел бы, чтобы судьба человечества заключалась в определении всех возможных вариантов развития ИСИ, чтобы не было сюрпризов. Но я думаю, что найдутся люди достаточно умные, благодаря которым мы сможем создать дружественный ИСИ. И было бы прекрасно, если бы над ИСИ работали только лучшие из умов «зоны тревоги».


Но есть масса государств, компаний, военных, научных лабораторий, организаций черного рынка, работающих над всеми видами искусственного интеллекта. Многие из них пытаются построить искусственный интеллект, который может улучшать сам себя, и в какой-то момент у них это получится, и на нашей планете появится ИСИ. Среднестатистический эксперт считает, что этот момент настанет в 2060 году; Курцвейл делает ставку на 2045; Бостром думает, что это может произойти через 10 лет и в любой момент до конца века. Он описывает нашу ситуацию так:

«Перед перспективой интеллектуального взрыва мы, люди, как малые дети, играющие с бомбой. Таково несоответствие между мощью нашей игрушки и незрелостью нашего поведения. Сверхинтеллект — это проблема, к которой мы пока не готовы и еще долгое время готовы не будем. Мы понятия не имеем, когда произойдет детонация, но если мы будем держать устройство возле уха, мы сможем услышать слабое тиканье».

Супер. И мы не можем просто взять и отогнать детей от бомбы - слишком много крупных и малых лиц работают над этим, и так много средств для создания инновационных систем ИИ, которые не потребуют существенных влияний капитала, а также могут протекать в подполье, никем не замеченные. Также нет никаких возможностей оценить прогресс, потому что многие из действующих лиц - хитрые государства, черные рынки, террористические организации, технологические компании - будут хранить свои наработки в строжайшем секрете, не давая ни единого шанса конкурентам.

Особую тревогу в этом всем вызывают темпы роста этих групп - по мере развития все более умных систем УИИ, они постоянно пытаются метнуть пыль в глаза конкурентам. Самые амбициозные начинают работать еще быстрее, захваченные мечтами о деньгах и славе, к которым они придут, создав ОИИ. И когда вы летите вперед так быстро, у вас может быть слишком мало времени, чтобы остановиться и задуматься. Напротив, самые первые системы программируются с одной простейшей целью: просто работай, ИИ, пожалуйста. Пиши заметки ручкой на бумаге. Разработчики думают, что всегда смогут вернуться и пересмотреть цель, имея в виду безопасность. Но так ли это?

Бостром и многие другие также считают, что наиболее вероятным сценарием будет то, что самый первый компьютер, который станет ИСИ, моментально увидит стратегическую выгоду в том, чтобы оставаться единственной системой ИСИ в мире. В случае быстрого взлета, по достижении ИСИ даже за несколько дней до второго появления ИСИ, этого будет достаточно, чтобы подавить остальных конкурентов. Бостром называет это решающим стратегическим преимуществом, которое позволило бы первому в мире ИСИ стать так называемым синглтоном («Одиночкой», Singletone) - ИСИ, который сможет вечно править миром и решать, привести нас к бессмертию, к вымиранию или же наполнить Вселенную бесконечными скрепками.

Феномен синглтона может сработать в нашу пользу или привести к нашему уничтожению. Если люди, озабоченные теорией ИИ и безопасностью человечества, смогут придумать надежный способ создать дружественный искусственный сверхинтеллект до того, как любой другой ИИ достигнет человеческого уровня интеллекта, первый ИСИ может оказаться дружественным. Если затем он будет использовать решающее стратегическое преимущество для сохранения статуса синглтона, он легко сможет удержать мир от появления недружественного ИИ. Мы будем в хороших руках.

Но если что-то пойдет не так - глобальная спешка приведет к появлению ИСИ до того, как будет разработан надежный способ сохранить безопасность, скорее всего, мы получим глобальную катастрофу, потому что появится некая Тарри-синглтон.

Куда ветер дует? Пока больше денег вкладывается в развитие инновационных технологий ИИ, нежели в финансирование исследований безопасности ИИ. Это может быть важнейшей гонкой в истории человечества. У нас есть реальный шанс либо стать правителями Земли и уйти на заслуженную пенсию в вечность, либо отправиться на виселицу.

Прямо сейчас во мне борется несколько странных чувств.

С одной стороны, думая о нашем виде, мне кажется, что у нас будет только один выстрел, которым мы не должны промахнуться. Первый ИСИ, которого мы приведем в мир, скорее всего, будет последним - а учитывая, насколько кривыми выходят продукты версии 1.0, это пугает. С другой стороны, Ник Бостром указывает, что у нас есть преимущество: мы делаем первый шаг. В наших силах свести все угрозы к минимуму и предвидеть все, что только можно, обеспечив успеху высокие шансы. Насколько высоки ставки?

Если ИСИ действительно появится в этом веке и если шансы этого невероятны - и неизбежны - как полагает большинство экспертов, на наших плечах лежит огромная ответственность. Жизни людей следующих миллионов лет тихо смотрят на нас, надеясь, что мы не оплошаем. У нас есть шанс подарить жизнь всем людям, даже тем, кто обречен на смерть, а также бессмертие, жизнь без боли и болезней, без голода и страданий. Или мы подводим всех этих людей - и приводим наш невероятный вид, с нашей музыкой и искусством, любопытством и чувством юмора, бесконечными открытиями и изобретениями, к печальному и бесцеремонному концу.

Когда я думаю о таких вещах, единственное, что я хочу - чтобы мы начали переживать об ИИ. Ничто в нашем существовании не может быть важнее этого, а раз так, нам нужно бросить все и заняться безопасностью ИИ. Нам важно потратить этот шанс с наилучшим результатом.

Но потом я задумываюсь о том, чтобы не умереть. Не. Умереть . И все приходит к тому, что а) если ИСИ появится, нам точно придется делать выбор из двух вариантов; б) если ИСИ не появится, нас точно ждет вымирание.

И тогда я думают, что вся музыка и искусство человечества хороши, но недостаточно, а львиная доля - так вовсе откровенная чушь. И смех людей иногда раздражает, и миллионы людей даже не задумываются о будущем. И, может быть, нам не стоит быть предельно осторожными с теми, кто не задумывается о жизни и смерти? Потому что будет серьезный облом, если люди узнают, как решить задачу смерти, после того как я умру.

Независимо от того, как считаете вы, нам всем стоит задуматься об этом. В «Игре престолов» люди ведут себя так: «Мы так заняты битвой друг с другом, но на самом деле нам всем нужно сосредоточиться на том, что идет с севера от стены». Мы пытаемся устоять на бревне баланса, но на самом деле все наши проблемы могут решиться в мгновение ока, когда мы спрыгнем с него.

И когда это произойдет, ничто больше не будет иметь никакого значения. В зависимости от того, по какую сторону мы упадем, проблемы будут решены, потому что их либо не будет, либо у мертвых людей не может быть проблем.

Вот почему есть мнение, что сверхразумный искусственный интеллект может стать последним нашим изобретением - последней задачей, с которой мы столкнемся. А как думаете вы?

По материалам waitbutwhy. com, компиляция Тима Урбана. В статье использованы материалы работ Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.