Искусственный интеллект опасен. Учёных пугает угроза со стороны искусственного интеллекта

Ерма́к Тимофе́евич (1542 — 6 августа 1585 , Сибирское ханство) — казачий атаман, исторический завоеватель Сибири.

Происхождение Ермака в точности не известно, существует несколько версий. По одному преданию, он был родом с берегов реки Чусовой. Благодаря знаниям местных рек, ходил по Каме , Чусовой и даже переваливал в Азию, по реке Тагил, пока не забрали служить-казачить (Черепановская летопись ), по другому — уроженцем Качалинской станицы на Дону (Броневский). В последнее время всё чаще звучит версия о поморском происхождении Ермака (родом «з Двины з Борку»), вероятно имелась в виду Борецкая волость, центр которой существует по сей день — деревня Борок Виноградовского района Архангельской области.

Имя Ермака, по мнению профессора Никитского, является разговорным вариантом русского имени Ермолай и звучит как его сокращение. Известный русский писатель, уроженец Вологодчины, В. Гиляровский называет его Ермил Тимофеевич («Москва Газетная»). Другие историки и летописцы производят его имя от Германа и Еремея (Еремы ). Одна летопись, считая имя Ермака прозвищем, дает ему христианское имя Василия. По мнению иркутского историка А. Г. Сутормина, полностью имя Ермака якобы звучало как Василий Тимофеевич Аленин . Эта же версия обыгрывается в сказе П. П. Бажова «Ермаковы лебеди». Существует также мнение, что «Ермак» — просто прозвище, образованное от названия котла для приготовления пищи.

Также существует гипотеза о тюркском происхождении Ермака. В пользу этой версии приводят доводы о том, что это типично тюркское имя существует до сих пор у татар, башкир и казахов, но произносится как «Ермек» — забава, веселье. Кроме того, мужское имя Ермак («Ырмаг») встречается у алан-осетин, широко населявших донские степи вплоть до XIV столетия.

Версию о тюркском происхождении Ермака косвенно подтверждает описание его внешности, сохраненное Семеном Ульяновичем Ремезовым в его «Ремезовском летописце» конца XVII века. Согласно С. У. Ремезову, отец которого — казачий сотник Ульян Моисеевич Ремезов — знал лично выживших участников похода Ермака, знаменитый атаман был «вельми мужествен, и человечен, и зрачен, и всякой мудрости доволен, плосколиц, черн брадою, возрастом [то есть ростом] середней, и плоск, и плечист».

Вероятно, Ермак был сначала атаманом одной из многочисленных волжских казацких дружин , защищавших население на Волге от произвола и грабежа со стороны крымских и астраханских татар. Об этом свидетельствуют дошедшие до нас челобитные «старых» казаков, адресованных царю, а именно: соратник Ермака Гаврила Ильин писал, что он 20 лет «полевал» (нёс военную службу) с Ермаком в Диком поле, другой ветеран Гаврила Иванов писал, что служил царю «на поле двадцать лет у Ермака в станице » и в станицах у других атаманов .

В 1581 году дружина казаков (больше 540 человек), под начальством атаманов Ермака Тимофеевича, Ивана Кольцо , Якова Михайлова , Никиты Пана, Матвея Мещеряка , Черкаса Александрова и Богдана Брязги , была приглашена уральскими купцами Строгановыми для защиты от регулярных нападений со стороны сибирского хана Кучума, и пошла вверх по Каме , а в июне 1582 года прибыла на реку Чусовую, в чусовские городки братьев Строгановых. Здесь казаки жили два года и помогали Строгановым защищать их городки от грабительских нападений со стороны сибирского хана Кучума.

К началу 1580 года Строгановы пригласили Ермака на службу, тогда ему было не менее 40 лет. Ермак участвовал в Ливонской войне, командовал казачьей сотней во время сражения с литовцами за Смоленск. Сохранилось письмо литовского коменданта Могилева Стравинского, отправленное в конце июня 1581 года королю Стефану Баторию, в котором упоминается «Ермак Тимофеевич — атаман казацкий». .

Завоевание Сибири

1 сентября 1581 года дружина казаков под главным начальством Ермака выступила в поход за Каменный Пояс (Урал ) из Нижнего Чусовского Городка. По другой версии, предложенной историком Р. Г. Скрынниковым, поход Ермака, Ивана Кольцо и Никиты Пана в Сибирь датируется следующим — 1582 годом, так как мир с Речью Посполитой был заключён в январе 1582 года, а в конце 1581 года Ермак всё ещё воевал с литовцами .

Инициатива этого похода, по летописям Есиповской и Ремизовской, принадлежала самому Ермаку, участие Строгановых ограничилось вынужденным снабжением казаков припасами и оружием. По свидетельству Строгановской летописи (принимаемому Карамзиным, Соловьёвым и другими), Строгановы сами позвали казаков с Волги на Чусовую и отправили их в поход, присоединив к отряду Ермака (540 человек) 300 ратных людей из своих владений .

Важно отметить, что в распоряжении будущего противника казаков, хана Кучума, находились силы, в несколько раз превосходившие дружину Ермака, но вооруженные значительно хуже. Согласно архивным документам Посольского приказа (РГАДА), всего хан Кучум располагал примерно 10-тысячной армией, то есть одним «туменом», а общая численность «ясачных людей», которые ему подчинялись, не превышала 30 тыс. взрослых мужчин .

Хан Кучум из рода Шейбанидов был родственником правившего в Бухаре хана Абдуллы, и, по-видимому, являлся этническим узбеком. В 1555 году сибирский хан Едигер из рода Тайбугинов, услышав о завоевании Россией Казани и Астрахани, добровольно согласился принять российское подданство и выплачивать русскому царю Ивану IV небольшую дань. Но в 1563 году Кучум совершил переворот, убив Едигера и его брата Бекбулата. Захватив власть в Кашлыке, Кучум первые годы вел ловкую дипломатическую игру с Москвой, обещая подчиниться, но при этом всячески затягивая выплату дани. Согласно Ремезовской летописи, составленной в конце XVII века Семеном Ремезовым , Кучум устанавливал свою власть в Западной Сибири с крайней жестокостью. Это обусловило ненадежность отрядов вогулов (манси), остяков (хантов) и пр. коренных народов, насильно собранных им в 1582 году для отражения казацкого вторжения.

Лев и единорог на знамени, Ермака, бывшем с ним при покорении Сибири (1581—1582 гг.)

Казаки поднялись на стругах вверх по Чусовой и по её притоку, реке Серебряной , до сибирского волока, разделяющего бассейны Камы и Оби, и по волоку перетащили лодки в реку Жеравлю (Жаровлю ). Здесь казаки должны были зазимовать (Ремезовская летопись). Во время зимовки, согласно книге Режевские сокровища , Ермак отправил отряд сподвижников разведать более южный путь по реке Нейва. Но татарский мурза разгромил разведывательный отряд Ермака. На месте, где жил тот мурза ныне находится знаменитое своими самоцветами село Мурзинка.

Лишь весной 1582 года, по рекам Жеравле, Баранче и Тагилу, выплыли в Туру. Два раза разбили они сибирских татар, на Туре и в устье Тавды . Кучум выслал против казаков Маметкула , с большим войском, но 1 августа и это войско было разбито Ермаком на берегу Тобола, при урочище Бабасан. Наконец, на Иртыше, под Чувашевым, казаки нанесли окончательное поражение татарам в битве при Чувашевом мысу. Кучум оставил засеку, защищавшую главный город его ханства, Сибирь, и бежал на юг, в Ишимские степи.

26 октября 1582 года Ермак вступил в покинутый татарами город Сибирь (Кашлык) . Через четыре дня ханты с р. Демьянка, правого притока нижнего Иртыша, привезли в дар завоевателям пушнину и съестные припасы, главным образом рыбу. Ермак «лаской и приветом» встретил их и отпустил «с честью». За хантами потянулись с дарами местные татары, бежавшие ранее от русских. Ермак принял их так же ласково, позволил вернуться в свои селения и обещал защищать от врагов, в первую очередь от Кучума. Затем стали являться с пушниной и продовольствием ханты из левобережных районов — с рек Конда и Тавда. Всех являвшихся к нему Ермак облагал ежегодной обязательной податью — ясаком. С «лучших людей» (племенной верхушки) Ермак брал «шерть», то есть присягу в том, что их «народец» будет своевременно платить ясак. После этого они рассматривались как подданные русского царя .

В декабре 1582 года военачальник Кучума, Маметкул , истребил из засады один казацкий отряд на Абалацком озере , но 23 февраля казаки нанесли новый удар Кучуму, взявши в плен Маметкула на реке Вагае.

Лето 1583 года Ермак употребил на покорение татарских городков и улусов по рекам Иртышу и Оби, встречая везде упорное сопротивление, и взял остяцкий город Назым. После взятия города Сибирь (Кашлык) Ермак отправил гонцов к Строгановым и посла к царю — атамана Ивана Кольцо.

Атаман Ермак на Памятнике «1000-летие России» в Великом Новгороде

Иван Грозный принял его очень ласково, богато одарил казаков и в подкрепление им отправил князя Семёна Болховского и Ивана Глухова, с 300 ратниками. Царские воеводы прибыли к Ермаку осенью 1583 года, но их отряд не мог доставить существенной помощи сильно убавившейся в битвах казацкой дружине. Атаманы гибли один за другим: сначала в засаду попал Богдан Брязга; потом при взятии Назыма убит был Никита Пан; а весной 1584 года татары убили Ивана Кольцо и Якова Михайлова. Атаман Матвей Мещеряк был осажден в своем стане татарами и только с большими потерями заставил отступить их предводителя Карачу, визиря Кучума.

Смерть Ермака

6 августа 1585 года погиб и сам Ермак Тимофеевич. Он шёл с небольшим отрядом в 50 человек по Иртышу. Во время ночёвки в устье реки Вагай Кучум напал на спящих казаков и истребил почти весь отряд. Согласно одной легенде, мужественно сопротивлявшийся атаман был обременен своими доспехами, в частности, подаренным царем панцирем, и, пытаясь доплыть до стругов, утонул в Иртыше. Согласно татарским преданиям, Ермак был смертельно ранен копьем в горло татарским богатырем Кутугаем.

Казаков оставалось так мало, что атаман Мещеряк должен был выступить обратно на Русь. После двухлетнего владения казаки уступили Сибирь Кучуму, чтобы через год вернуться туда с новым отрядом царских войск.

Оценка деятельности

Некоторые историки ставят очень высоко личность Ермака, «его мужество, предводительский талант, железную силу воли», но факты, передаваемые летописями, не дают указаний на его личные качества и на степень личного его влияния. Как бы то ни было, Ермак является «одной из самых примечательных фигур в русской истории», — пишет историк Руслан Скрынников.

Развитие искусственного интеллекта однажды приведёт к превосходству его над умственными способностями человека. Однако не станет ли это опасным для человечества? Изучить ситуацию можно в результате более точного определения понятия ИИ , взяв за основу для сравнения естественный интеллект. Может ли в одном человеке сочетаться ум и интеллект одновременно? Или же умный человек не может быть интеллектуалом и наоборот?

Такие вопросы возникают в связи с приближением эры ИИ, о возможной опасности которого человечество должно знать заранее и своевременно принять меры для обеспечения своей безопасности. В первую очередь опасность ИИ будет связана с его самостоятельностью и неконтролируемым принятием решений. На данный момент уже выделены средства для изучения этой проблемы. В институте OpenAI изучаются перспективы развития ИИ. На теперешней стадии развития систем ИИ опасность его применения может быть связана со следующим факторами:

ошибками ПО (программного обеспечения). Любому программному обеспечению может угрожать такая опасность;
самостоятельной активностью ИИ, вредной для человека. Опасность от ИИ может исходить после изобретения умного компьютера. Поэтому необходимо определиться со степенью ума для компьютера, которая способна быть допустимой, а также чрезмерной, представляющей опасность для человека. Эти свойства должны быть точно измерены из-за сближения умственных способностей человека и компьютера, которые неизбежны. Информационные системы, существующие сегодня, представляют собой человеко-машины, которые могут работать благодаря интеллекту пользователя либо эксперта по компьютерам.

Например, какая опасность будет исходить от интеллектуальной бухгалтерской системы, которой может выдаваться неверная информация? Опасность может возникнуть, когда у такой системы появятся элементы личности, например, собственная заинтересованность, не имеющая ничего общего с человеческой. Решением такой проблемы может быть запрет на создание систем, отличающихся возможностью эволюции.

Кроме того, опасность может быть связана с содержанием в ИИ логических ошибок. Он может использоваться для решения достаточно сложных задач, список которых сразу неизвестен. Поэтому должны быть предусмотрены специальные меры для подтверждения правильности решение, которое будет получено. Скорее всего, возникнет необходимость в разработке всевозможных способов контроля таких систем, например, специальных программных средств, которыми будет автоматически проверяться правильность решения и при этом участие человека не потребуется.

ошибками ПО (программного обеспечения). Любому программному обеспечению может угрожать такая опасность;
самостоятельной активностью ИИ, вредной для человека. Опасность от ИИ может исходить после изобретения умного компьютера. Поэтому необходимо определиться со степенью ума для компьютера, которая способна быть допустимой, а также чрезмерной, представляющей опасность для человека. Эти свойства должны быть точно измерены из-за сближения умственных способностей человека и компьютера, которые неизбежны. Информационные системы, существующие сегодня, представляют собой человеко-машины, которые могут работать благодаря интеллекту пользователя либо эксперта по компьютерам.

Искусственный интеллект угроза человеку, предупреждает Стивен Хокинг. Созданный человеком искусственный интеллект может обернуться самым большим бедствием(!), составив конкуренцию человеческой цивилизации.

Искусственный интеллект, роботы будущего — опора человека

Электронный разум может создать собственную машинную цивилизацию тем самым став одной из самых серьезных угроз человечества.

Предвидение опасности исходит от известного физика Стивена Хокинга (открывшего мир вселенной). Для нашего времени это конечно потенциальная угроза, но в один «прекрасный день» будущего, искусственный разум может разработать «собственную волю». Теперь пришло время всерьёз подумать над этим вопросом.

Физик в очередной раз выступил с предупреждением: искусственный интеллект может развиться в совершенную мыслящую структуру. Настолько сложную и разумную, что она овладеет способностью расти и понимать мир согласуясь со своей собственной волей, которая может вступить в противоречие с планами человечества.

Это может привести к возникновению мощного оружия, спровоцировать потерю человечеством контролируемой территории. — Профессор Хокинг призывает исследователей к тщательному изучению проблемы поведения искусственного интеллекта, и его возможностей в будущем.

Надо сказать, что профессор Хокинг не отклоняет идею искусственного интеллекта в негативную область. Ученый указывает, что если мы сделаем нашу домашнюю работу и исследования достаточно хорошо, то сможем .

С таким помощником как ИИ, мы сможем прийти к лучшему образу жизни, говорит физик. Искусственный интеллект может помочь человечеству искоренить болезни и бедность.

Профессор Хокинг выступил на открытии центра «The Leverhulme», затрагивая как полезность машинного разума, так и негативные стороны. Центр создан для будущего интеллекта, предназначенный проводить исследование, и изучить последствия быстрого развития искусственного интеллекта.

Следует напомнить, что для Стивена Хокинга 100 лет — мгновение. В действительности, разумные ИскИны дело даже не ближайших сто лет, ну разве что кто-то принесет процессор из 2135 года.

Леверулм Центр для будущего ИИ объединит сотрудничество между несколькими университетами в Соединенном Королевстве и Соединенных Штатах. Идея заключается в создании междисциплинарного научно-исследовательского сообщества.

Команда учёных планирует работать в тесном сотрудничестве с деловыми кругами и правительством, пытаясь среди прочих задач определить риски и выгоды в краткосрочной и долгосрочной перспективе в ставке на искусственный разум. Директор Центра Huw Price уверил: создание интеллектуальных машин является важным этапом человечества, и центр будет пытаться сделать «будущее наилучшим».

Помимо обширности исследований, Центр будет анализировать последствия быстрого развития интеллектуальных машин, например роботов. Роботы, предлагая решения задач повседневной жизни, создают риски и этические дилеммы для человечества. Многие люди не доверяя электронике опасаются ИИ, к тому же цифровой разум может превзойти человеческий и контролировать жизнь человека.

Я считаю, что нет глубокой разницы между тем, что может быть достигнуто с помощью биологического мозга и что может быть достигнуто с помощью компьютера. Таким образом следует, что теоретически, компьютеры могут имитировать человеческий интеллект — превзойти его. С.Хокинг.

Профессор Хокинг считает, что потенциальные выгоды от участия ИИ в нашей жизни велики. Такая технологическая революция может помочь человечеству исправить некоторый ущерб, нанесенный планете. «Успех в создании ИИ может стать крупнейшим событием в истории цивилизации», отмечает профессор Хокинг.

Но также это может быть последним шагом в истории человечества, если мы конечно не узнаем, как избежать рисков, ведь наряду с преимуществами, ИИ может представлять опасности: мощные виды оружия, новые способы для немногих угнетать многих. В конце концов, это может завершиться доминированием железных тел над биологическими, вызвав большие катастрофы в будущем.

Что если ИИ, а мы говорим о разуме со способностью инициативы выбора вариантов поведения, вступит в конфликт с жизненными аспектами человека? Ведь тогда послушный железный помощник на кухне может переквалифицироваться в диктатора условий!

— Развитие мощного ИИ будет либо лучшее, либо самое худшее, что когда-либо случиться с человечеством. Мы не знаем, какой вариант событий ожидает в будущем, говорит профессор Хокинг. Именно поэтому, в 2014 году, я и многие другие призвали проводить больше исследований в этой области. Я очень рад, что кто-то услышал меня, заключил профессор Хокинг на открытии центра.

Технология делает нашу жизнь проще и качественнее, помогая нашему виду эволюционировать и развиваться. За последние сотню лет технологические программы медицины увеличили продолжительность жизни более чем на 40 процентов. Современный смартфон в кармане стал в тысячу раз мощнее и в миллион раз дешевле, чем самый продвинутый компьютер из 70-тых годов.

Стремительное развитие технологий по суждениям исследователей предрекает нам ещё больший рост продолжительности жизни с помощью умных машин, - они будут опекать нашу жизнь и здоровье. Возьмут в «свои руки» тяжелый и опасный труд, а управляя средствами повышенной опасности умные машины с искусственным интеллектом исключат проблему человеческого фактора. А человек в это время, наконец-то займется творчеством и созиданием бытия в тени философских рассуждений.

Но не случиться ли однажды так, что мы дойдем до той точки, качество перерастет в количество - где технологии вместо увеличения продолжительности жизни, развернуться против нас самих, времени, когда машины взбунтуются?

Перспектива поглощения человечества разумными машинами (по сути это вид, наделенный разумом) - одна из тем при разговоре о потенциальном поглощении человечества искусственным интеллектом. Катастрофическим результатом для нашего вида может быть создание суперкомпьютера с искусственным интеллектом вышедшем из под контроля, - рассуждают весьма серьёзные учёные. Это гипотетическое событие часто упоминается в качестве технологической сингулярности, и это беспокоит учёных.

Взять к примеру машину с искусственным интеллектом, которому поставлена задача изготовления скрепок. Такая машина будет делать скрепки реализовывая самый эффективный способ использования ресурсов, в которых нуждаются люди. Просто они запрограммированы так, выполнять свою работу наиболее качественно - но это же еще и умная машина, понимающая свою важность и необходимость.

Но как отреагирует машина, когда её конечная цель - изготовление скрепок - потеряет необходимость? Перестроиться на новые цели? Или обижено воспримет человеческое желание ее выключить как угрозу своему существованию, и устремиться уничтожить угрозу ее выключения (считай убийства) в лице человеческих существ?

Очевидно, это преувеличенный сценарий возможных событий будущего, но это свидетельствует о необходимости значительной проницательности в том, как именно машины с искусственным интеллектом могут мыслить в будущем. Ведь не секрет, что относительно примитивный машинный разум уже сейчас занимает весомую долю в управлении вооружением, и решает значительную часть вопросов нашей жизни. А что может произойти, когда контроль над этим получит развитый интеллект?

Будут ли эти машины уметь разбираться в нюансах человеческих мыслей и желаний? И еще, разумные машины с иным мышлением а то и высшего порядка, могут быть не обременены человеческими эмоциями и прочими когнитивными процессами. Однако, часть того, что делает нас людьми - это наши любопытство и наша неспособность дать ответы на вопросы, которые мы имеем уже сейчас.

Кажется, определенные ограничения могут быть неотъемлемой частью того, что означает быть человеком, и как ученые подозревают, на пути самореализации машинный разум может посчитать себя высшим существом по отношению к человеку.

Искусственный интеллект, потенциальная угроза выживанию человечества. Может ли угрожать суперкалькулятор?

Разумеется, при нынешних технологиях угроза искусственного интеллекта выглядит гипотетической, но уже сейчас отношение учёных к созданию искусственного интеллекта негативное. С недоверием относится к наступлению эры Искусственного Интеллекта и британский физик-теоретик Стивен Хокинг. Ученый полагает, что появление полноценного ИИ в нашем мире может стать для человека разрушительным фактором – обернуться гибелью человеческой расы.

Согласно Хокингу, машинный разум перехватит у человека инициативу развития и будет самосовершенствоваться, и эволюционировать с невероятной скоростью. Тогда как возможности человека к развитию сдерживаются слишком медленной эволюцией. Нам нечего противопоставить машинам на этом пути, мы проиграем эту гонку, - высказывает учёный своё отношение к ИИ.

Учёный беспокоиться, что в будущем технологический прогресс приведет нас к появлению разумных машин, способных превзойти интеллект человека. Но вместе с тем, Стивен Хокинг соглашается, что существующие примитивные формы ИИ доказали свою пользу.

Надо заметить, что большинство учёных, прогрессивно и скорее даже революционно мыслящих в плане получения "дивидендов" от научно-технического развития, очень и очень настороженно относятся к вопросу создания искусственного интеллекта. И вопрос даже не в том, что на каком-то этапе развития машинный интеллект сочтет своего создателя помехой или даже угрозой своего существования. Во что превратиться сам человек? - Вот беспокойство будит какой вопрос. Не разжиреет ли и отупеет человечество под крылом опекунства разумных машин? А ведь это, не что иное, как вырождение вида!

В тоже время, как оппонируют другие учёные, проблема искусственного интеллекта чрезмерно надуманна. В сущности, интеллект на электронной основе не сможет чувствовать и осязать, не сможет фантазировать - это возможности биологического мозга. А без этих компонентов какой бы разумной машина не была, она остаётся машиной - супермощным, продвинутым, но все же калькулятором с прошитыми вариантами развития.