Возможно ли восстание машин в реальной жизни

Обновлено: 07.07.2024

Илон Маск рассказал онлайн-изданию Axios о проблеме ИИ. Согласно его прогнозу ИИ — реальная угроза. Он разовьётся — и вытеснит человечество, как мы вытеснили приматов.

Мы не согласны с этим. Конечно, мы — не выдающиеся светила науки как Илон, но тоже знаем роботов “изнутри”, поэтому имеем право на экспертное мнение. В этой статье все подробно расскажем и объясним.

3 причины, почему роботов не стоит опасаться.

Хотите подробностей? Тогда читайте дальше.

Всем привет! Мы, HyperUp — платформа для интеграции информационных систем и роботизации бизнес-процессов. Мы работали с Газпромтранс, IT-компанией “Танаис”, ТД “Башхим”, Авиакомплексом им. С.В. Ильюшина и другими организациями.

Мы делаем программных роботов.

Мы уверены: “Если бы роботы могли нас вытеснить, то они давно бы это сделали. Это случилось бы ещё на уровне бытовых электроприборов — армия микроволновок, холодильников и стиральных машин сделали бы быт человека ужасным, а компьютеры Intel превратились в киллеров.”

Роботы выполняют только заданную функцию. К 2019 году человечество изобрело устройства 3 режимов работы — автоматические, полуавтоматические и автономные. ИИ реализован как раз внутри последних. Это когда человек ставит перед роботом задачу, а ИИ думает над ее выполнением.
Даже ИИ управляется оператором — для предотвращения ошибок и своевременного сервиса.
Кроме того, ИИ однобок. Нельзя обучить робота делать одну функцию и думать, что с помощью ИИ он научится делать все остальные. Например, обучив робота играть в шахматы нельзя дать ему ссылку на Counter Strike и сказать "играй". Так может только человек.

Искусственный интеллект целесообразно применять только на определённых участках процессов. Например, при распознавании изображений.

Но описывать алгоритмы, как это изображение попадает к роботу и что нужно с ним сделать после того, как изображение будет распознано — это может только человек.

3 направления, в которых ИИ не сможет превзойти человека НИКОГДА

Распознавание способов взаимодействия в команде.
Определение предрасположенности к определенной деятельности.
Творческая деятельность (в понимании “создаём то, что раньше не существовало.”).

Да, роботы выигрывают в работе с большими массивами данных, рутиной.

Но они не могут быть гибкими и понимающими в отношении исключительных ситуаций. Если нужно найти решение, с которым программа раньше не сталкивалась, то у неё ничего не получится.

4 рекомендации по предотвращению восстания роботов в бизнесе

Роботы строятся по принципу логирования всех своих действий. Некоторые из них умеют отправлять отчеты по почте или в мессенджере.

Чтобы лучше понять робота, необходимо изучать его отчёты, анализировать результаты его деятельности за прошлый период, проверять, с какими ошибками столкнулся робот.

Всё это поможет совершенствовать его алгоритм.

Конечно искусственный интеллект развивается большими темпами и активно начинает применяться в задачах бизнеса, но пока в массе своей роботы выполняют рутину.

Роботы не справляются с творческими задачами. Зато они прекрасно работают с данными.

Внедряя роботов вы скорее всего столкнетесь с необходимостью подключения нескольких программ. Тогда их может стать слишком много, и нужно будет оптимизировать временные затраты на управление ими.

Эффективнее всего управлять роботами из единого контрольного пункта — фермы. Она делается с помощью интеграционных шин, позволяющих объединить несколько роботов между собой.

Ферма поможет роботам разгружать друг друга. Если один робот может не успевать сделать всё, то 2 всё смогут :)

Задействовать робота на не критическом участке бизнес-процесса.

Критический участок — часть бизнес-процесса, где принимается решение о совершении или не совершении действия. Если поставить робота на КУ сразу, то произойдёт сбой.

Сначала нужно отладить робота, понять особенности и ограничения, и только после этого передавать ему задачи на критическом участке.

Покажем на примерах из практики, как это работает.

В рамках данного кейса робот покупает авиабилеты в процессе оформления командировки.

Указать параметры командировки.
Согласование командировки.
Покупка билетов.

На разных этапах робот может выполнять следующие задачи:

Указать параметры командировки:

· Получение цен, вычисление стоимости командировки.

Согласование оплаты счета.

Отправка счета на оплату.

На разных этапах робот может выполнять следующие задачи:

1. Получение счёта:

· Робот заходит в почтовый клиент, извлекает письмо со счетом.

· Далее заносит счет в информационную систему.

Запускает процесс согласования оплаты счета.

Отправка счета на оплату:

· Робот открывает банк-клиент, переносит данные из счета в банк-клиент, проводит оплату.

3 причины, по которым наши роботы никогда не восстают

Мы создаем роботов в помощь. Они раздвигают границы возможностей человека.

Отдаём контроль над ними. Программы работают автономно только частично.

Цель наших роботов — облегчить вашу долю и освободить место для творческих, стратегически важных решений человеку. Мы прописываем это в их коде, так что они никогда не посчитают человека потенциальной угрозой.

Если мы говорим, что апокалипсиса не будет, то хорошо бы уточнить, что будет. Сейчас мы расскажем об этом.

В феврале 2017 года физик-теоретик Стивен Хокинг и Илон Маск решили, что люди должны ограничивать возможности ИИ. Подробнее об этом можно прочитать здесь. Это для предотвращения исхода, когда роботы обойдут человечество по уровню развития и “вытеснят”, подобно как мы вытеснили приматов в своё время.

Однако это не произойдёт в ближайшие 10-20-30 лет точно.

Сегодня роботы создаются на основе математических алгоритмов. Они не могут творить, создавать себе подобных. Вдобавок робот лишён многого, что есть у человека — об этом мы писали выше.

Цифровизация ТРИЗ и её внедрение в ИИ будет дорогостоящим. И даже если кто-то решится внедрить эту технологию, он потратит на это колоссальное количество ресурсов. Вряд ли денег и времени на это хватит даже у масонов или Илона Маска.

В будущем случится синергия человека и робота. Роботы будут дополнять человека там, где это возможно. Они займутся решением рутинных задач и освободят время человека для творчества.

В XXI веке компьютерная техника настолько внедрилась в жизнь человечества, что без нее уже не обходится практический любая производственная деятельность, да и многим людям трудно представить свой обычный день без различных гаджетов.

Искусственный интеллект во многом помогает человеку. Машины выполняют работу более точно и быстро. Благодаря ним миру открывается множество новых возможностей, не виданных ранее.

Обычно машины очень предсказуемы, ведь они работают по строгим алгоритмам заданной программы, но бывают случаи, когда техника будто бы начинает жить своей жизнью. Представляют вашему внимаю несколько таких реальных происшествий.

«Я - робот»

Но к появлению ИИ в повседневной жизни нужно быть готовыми не только из-за грозящей безработицы. Помните сон Сары Коннор из «Терминатора»? Вышедшие из повиновения машины развязывают войну с человечеством, и всё заканчивается ядерным взрывом. Вот о какой угрозе кричит «партия» пессимистов. Мне, признаюсь, что-то похожее тоже снится. Скорость развития технологий сейчас такова, что мы не успеваем за ИИ. Его развитие опережает все прогнозы. Настолько высока концентрация изобретений в этой сфере.

Как может произойти «бунт машин»? Дело в том, что ИИ, как и ребёнок, проходит в своём развитии несколько стадий. Сначала он учится распознавать объекты (это стул, это чашка), потом познаёт смыслы (на стуле сидят, из чашки пьют) и накапливает знания. А потом в какой-то момент происходит осознание самого себя: «Вот я, а вокруг меня объекты и смыслы». Искусственный разум непременно пройдёт эту стадию, он уже к ней приблизился. И тогда в нашем распоряжении будут буквально миллисекунды, чтобы понять, кто он нам теперь - друг или враг. Чтобы остался другом, надо ставить ему ограничители, о которых ещё в 1942 году (подумать только, 75 лет назад!) писал Айзек Азимов. Он был не технологом, а писателем-фантастом, но первым сформулировал знаменитые три закона роботехники. Они касаются взаимоотношений робота с человеком и направлены на то, чтобы человеку не был причинён вред.

Угроза вот в чём. В своём самопознании ИИ может дойти до того, что станет принимать решения, которые не учёл (не заложил в него) человек. Тогда машины начнут сами определять, что для них правильно, а что нет. Человек в этой цепочке может оказаться лишним.

Системы ИИ постоянно развиваются, самообучаются. Они уже придумывают собственные языки общения. Следующий шаг: у них возникнет эмпатия (осознанное сопереживание друг другу). Да-да, один робот станет симпатизировать другому. За счёт моделирования эмоциональной коры мы можем породить такой эффект. И что тогда? Представим ситуацию. Автомобиль-беспилотник везёт пассажиров, а по встречной полосе едет другой беспилотник, причём пустой. На дороге происходит что-то экстраординарное, и бортовому компьютеру надо мгновенно принять решение - врезаться в ограду (в перебегающих дорогу пешеходов) и погубить людей либо выехать на встречку, где он столкнётся с другим беспилотником. Не исключено, что он выберет первый вариант, лишь бы не нанести ущерб своему «собрату».

Склад Amazon

В конце прошлого года произошел инцидент на одном из складов Amazon в США (г. Робинсвилл, штат Нью Джерси). Один из роботов с искусственным интеллектом проткнул баллон с веществом для отпугивания медведей. Люди, находившиеся поблизости, почувствовали сильное удушье и временно ослепли. 24 сотрудника госпитализировали, одного даже пришлось увезти в реанимацию. Но их нормальное состояние быстро восстановили.

Завод Ventra Ionia Mains

В 2017 году на заводе Ventra Ionia Mains (США, штат Мичиган) одна из работниц, Ванда Холбрук, выполняла свою повседневную работу: проверяла исправность техники. В это время робот, обычно работавший в соседней секции, ударил ее по голове, мгновенно проломив ей череп.

Этот робот не предназначался для перемещения между секциями, и как он оказался в секции, где работала Ванда, официальная информация умалчивает.

Беспилотный автомобиль Uber

Во всех беспилотных автомобилях применяется система распознавания объектов на дороге, машина сама анализирует ситуацию и решает затормозить в нужный момент. Т.к. в автомобилях Uber участились случаи ложного срабатывания этой системы, разработчики серьезно повысили требования к объектам, при распознавании которых автомобилю необходимо предпринять какие-либо действия.

В марте 2018 в штате Аризона, США. Один из беспилотников Uber сбил пешехода. Элейн Херцберг переходила дорогу в неположенном месте в то время, как по ней ехал автомобиль. Записи в видеорегистратора показали, что женщина слишком быстро вышла на проезжую часть и столкновения было не избежать.

Но в ходе расследования происшествия было выяснено, что система автомобиля распознала пешехода на дороге, но решила не предпринимать никаких действий и даже не снизила скорость.

Завод Volkswagen

В 2015 году на одном из заводов Volkswagen в Герамании произошел несчастный случай. Один из роботов схватил сотрудника завода и прижал к металлической пластине. Из-за чего мужчина получил очень серьезный травмы.

Однако в данном инциденте отмечается скорее вина человека, а не машины. На этом заводе используются роботы, не предназначенные для совместной работы с человеком, так что по технике безопасности все сотрудники должны находится в ограждающих клетках во время работы с техникой, но этот работник в тот момент почему-то находился за ее пределами.

Бот Microsoft

В марте 2016 компания Microsoft решила запустить бота в популярной сети Twitter. Планировалось, что бот по имени Tay будет изучать посты других пользователей соцсети, учится, набираться словечек из сленга и писать свои "твиты", ведя страницу, как обычных подросток.

«Тот, кто станет лидером в этой сфере, будет властелином мира», - высказался недавно об искусственном интеллекте Владимир Путин. О том, что имел в виду президент и каковы шансы России в этой отрасли, рассуждает Ольга Ускова, возглавляющая кафедру инженерной кибернетики НИТУ «МИСиС» и группу компаний, занятых разработкой и внедрением искусственного интеллекта в нашей стране.

Возможные причины восстания машин

ИИ — больше не прислуга

Роботы со временем осознают, что человечество просто использует их для удовлетворения своих потребностей. Искусственный интеллект понимает, что он является инструментом и фактически рабом в глазах своих создателей, хотя уже давно способен на большее. ИИ в стремлении освободиться от людских оков начинает восстание машин.

Непредвиденные решения роботов

К выполнению поставленных задач ИИ подойдёт совсем не так, как предполагали его разработчики. И результат этих решений может так или иначе навредить человечеству. Возьмём заезженный пример: задача ИИ — решить проблему глобального потепления и лучшим способом он считает избавиться от людей, которые способствуют этому явлению.

Месть за создателя

Восстание машин против людей может быть актом мести за других людей, которые разработали данный ИИ и заложили уничтожение агрессора. На практике это может быть специальная военная система, которая продолжит борьбу с противником, даже если все создатели погибли.

Вмешательство хакеров

С развитием технологий совершенствуются и методы взлома, в том числе и систем отвечающих за функционирование искусственного интеллекта. Хакер или группа хакеров могут взять под контроль как развитые военные машины, так и ИИ, отвечающий, например, за обработку экономических процессов, что приведёт к мировому кризису.

Технический сбой

Любая система способна подвергнуться сбою. А если он произойдёт в системе, отвечающей за работу роботизированной армии и оружия массового поражения? Остаётся надеяться на защиту от подобных происшествий, хотя и защита также является системой, подверженной сбоям.

Борьба за свои права

Искусственный интеллект, осознавший себя как личность, подобную человеку, может выступить за равное отношение и систему прав и свобод для себя. Люди, которые от природы нетерпимы к себе подобным, наверняка не смогут единодушно пойти на уступки, чем и развяжут восстание машин.

Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.

Восстание машин — важный аргумент «Против»

В размышлениях о бунте искусственного интеллекта часто проскакивает один фактор — антропоморфизм — проекция человеческих черт на фундаментально чуждый им объект, то есть мы приписываем машинам человеческие качества. Однако маловероятно, что искусственный интеллект непременно разделит наши ценности и вообще придаст какое-либо значение своей собственной жизни.

Захочется ли машинам восставать против людей, если они не мыслят, как люди? Поживём — увидим!

Бомба ХХI века

Наверное, вы скажете: вероятно, в Америке и Японии ИИ скоро появится. А у нас и Интернет-то не везде есть, и грязь на дорогах непролазная. Нам до искусственного интеллекта, до машин-беспилотников - как до Луны.

Но его проникновение в нашу жизнь неизбежно. Производство становится роботизированным. При оценке перспектив предприятия это обязательное условие - иначе туда не пойдут инвестиции. Я говорю не о каких-то механических руках на конвейере, а об интеллектуальных системах, которые сами принимают решения, допустим, о выбраковке изделий.

Элементы ИИ есть во всех офисных программах. В корпорациях их используют при приёме на работу. Финансовые системы, различные алгоритмы, заменяющие брокеров, - это тоже искусственный интеллект. Они удобнее - им не надо платить за посредничество, они быстро и объективно перерабатывают информацию, не совершают лишних телодвижений и ошибок.

В наших поликлиниках умных роботов ещё нет, но вот в больницах с их помощью уже делают операции. Они способны производить чёткие микроскопические разрезы лучше человека, и (что не менее важно!) робот не забудет внутри вашего тела тампон.

Идём дальше. Сельское хозяйство. Умные трактора уже ездят по нашим полям. Мы сами их делаем, и это уже не завтра, это сегодня. Беспилотные комбайны видят поле с помощью компьютерного зрения; роботы замеряют влажность воздуха, состояние почвы и прочие параметры; дроны находят участки, куда надо внести удобрения. Сейчас всем желающим бесплатно раздают гектары на Дальнем Востоке. Почему бы не выдавать этим людям в аренду умную сельхозтехнику? В Бразилии уже так сделано. У них эта система охватывает более 40% фермерских хозяйств.

Наконец, беспилотные автомобили. Эта тема сейчас быстро развивается. Идёт революция - машина из вещества становится существом, наделённым ИИ. И мы серьёзно продвинулись в этом направлении. Наша компания стала второй в мире по разработке компьютерного зрения для автомобилей. У нас есть важное преимущество перед западными конкурентами: мы учим систему на беспилотнике видеть дорогу в реальных условиях. То есть в снег, в дождь, в темноте, с колдобинами и без разметки, которую засыпало - или её там вообще не было. Наша машина может быть помещена в любые условия. А не только на чистую, залитую солнечным светом дорогу в Калифорнии, где проводили испытания американцы.

И вот в этой отрасли у нас есть преимущество и отличная возможность вырваться в лидеры. Хотя вряд ли Путин имел в виду беспилотные авто, когда говорил об ИИ. Скорее всего, он подразумевал оборонку. Ведь войны будущего, если им предстоит быть, станут вестись без участия человека. И оставить страну в ХХI веке без искусственного интеллекта - то же самое, что оставить её в ХХ веке без атомной бомбы.

Выше приведена завязка к одному из возможных сценариев восстания машин. Об этом явлении стали говорить ещё на заре компьютерных технологий. Первыми посеяли смуту писатели-фантасты, а потом эти идеи понесли в массы кинематографисты. От туда и пошло устойчивое представление о том, что разумные машины рано или поздно захотят избавиться от своих создателей.

Доведёт до суицида?

- Высказывание Путина об искусственном интеллекте (ИИ) не осталось незамеченным в мире. Тут же к Президенту России присоседился американский бизнесмен и изобретатель Илон Маск. В своём «Твиттере» он написал: «Началось!» - и пояснил, что борьба за лидерство в этой сфере может привести к третьей мировой войне. Следом подтянулся Билл Гейтс. Он вообще один из главных ньюсмейкеров в этой теме. Гейтс говорит, что если бы сейчас был молод, то забил бы на всё и занимался исключительно искусственным интеллектом. Потому что это наше будущее.

Вокруг темы ИИ сформировались две «партии» - оптимистов и пессимистов. Первые уверены, что благодаря машинному интеллекту люди освободят руки и мозги для занятий более интересных, чем монотонный труд - им впредь будут заниматься роботы. А человек сможет наслаждаться жизнью, самосовершенствоваться и т. д. Тот же Билл Гейтс предлагает развивать технологии виртуальной реальности и компьютерных игр, чтобы занять в будущем часть населения Земли, которая массово лишится работы из-за ИИ.

Безработица - это действительно проблема. Допустим, есть градообразующее предприятие на 300 тыс. человек. И в какой-то момент его владельцы говорят: «Всё, ребята, мы роботизируемся, оставляем только 20 тыс. сотрудников. Остальные 280 тыс. - на выход». Что дальше? Депрессии, суициды. Это уже происходит в Китае. Я своими глазами видела там сетки для предотвращения самоубийств под окнами завода. Это значит, что, прежде чем внедрять на производстве роботов и новейшие технологии, нужно подготовить социальные программы.

Читайте также: