Главная О компании Партнеры Блокнот Карта сайта Контакты 23 апреля 2017 г. 
Ваша компания на портале
Реклама на портале
Прайс-лист
Регистрация
Инструкция пользователя
Информация об ограничениях
Добавить в избранное
Послать ссылку другу
Сделать стартовой
Мой город
Новосибирск
Новосибирская область
  Погода Новосибирск  
ясно
сб(22.04)
пасмурно
вс(23.04)
+15° +17° +7° +9°
4-6 м/с В 3-5 м/с З
  Курсы валют ЦБ РФ  
21.04 22.04
USD 56,4165 56,2307 -0,33%
EUR 60,6139 60,3187 -0,49%
 
Показать на карте Подробно Все курсы валют  

IT технологии


Машина должна сказать "нет": как защитить робота от человека

15 апреля 2017 г.

Машина должна сказать "нет": как защитить робота от человека
Роботы уже пришли! Для многих такое заявление еще кажется фантастикой, однако специалисты не сомневаются, что будущее, описанное в романах, уже наступило. Более того, многие ученые, в том числе и знаменитый ученый Стивен Хокинг, уже серьезно говорят о нашествии роботов. Они способны поработить человека, и не помогут никакие законы Айзека Азимова, которые должны быть заложены в мозгах машин. Роботы будут настолько умны, что сумеют преодолеть все запреты, пишет "Российская газета".

Уже сегодня умные машины готовы взять на себя 45 процентов деятельности людей. Примеры? Роботы уже давно "свои" в финансовой сфере, скажем, на биржевом рынке они выполняют около 80 процентов операций. В ближайшие 7-8 лет передача рутинных операций роботам приведет к росту безработицы на 35-40 процентов. Причем речь идет не только о производстве, но и об интеллектуальной деятельности. Роботы уже пишут музыку и стихи, машина-журналист за минуту успешно написала статью. Но и этого мало. Роботы замахнулись даже на руководителей. Такой "босс" вначале должен пройти обучение, следя за работой человека, анализируя его ошибки, выбирая оптимальный вариант. Достоинства "железного" начальника очевидны. Он способен держать в "голове" все маршруты движения документов, различные варианты принятия решений, мгновенно сравнивать их последствия, учиться на ошибках и уже никогда их не повторять.

Какую карьеру способны сделать роботы? До какого этажа руководящей вертикали могут подняться, и разрешит ли человек так унизить себя? Эти вопросы сегодня активно обсуждаются не только создателями такой техники, но и экономистами, юристами, бизнесменами, социологами.

Совершенно неожиданный взгляд на проблему предлагают американские ученые Гордон Бриггс и Маттиас Шойц из Университета Тафтса. Они уверены, что самую большую угрозу для человечества несут не суперинтеллектуальные машины, которые якобы в какой-то момент не захотят выполнять команды человека и выйдут из его подчинения, а сам человек. Прежде всего это его ошибки при создании такой техники. Дело в том, что в самих командах, которые человек дает своему подопечному, могут быть нечеткие, двусмысленные инструкции. Скажем, человек опаздывает на работу и дает команду роботу-автомобилю как можно быстрей доставить его в офис. А если на шоссе сильная гололедица? Что делать роботу? Если беспрекословно выполнять команду, то велик шанс попасть в аварию. Не подчиняться? Но это должно быть заложено в алгоритме. Есть варианты, когда человек сможет вводить роботов в заблуждение, стремясь использовать в своих корыстных целях.

Как быть в таких ситуациях? Бриггс и Шойц считают, что робота надо научить говорить "нет". Для этого его предлагает наделить способностью к хотя бы элементарному мышлению, чтобы он мог понять, опасно или нет выполнять команду человека. Задача, прямо скажем, сложнейшая, но ученые уже взялись за ее решение. Во всяком случае, составили необходимые алгоритмы, встроили их в мозги робота и начали первые эксперименты.

А как поведут себя люди, если "морализирующие" и "умные" роботы откажутся выполнять их команды? Согласятся или нет участвовать в обмане? В использовании человеком машины, чтобы причинить вреда другому человеку? Это принципиальные вопросы. В принципе, робот может стать на пути злой воли человека, распознавать и устранять его недостатки. Перспектива, прямо скажем, неожиданная и захватывающая.

Юрий Медведев

 

 

Источник: www.rg.ru
Просмотров: 131

Другие новости этого раздела:


Стремительно развивающийся мир роботов может вытеснить человека
"Человечеству повезет, если оно станет домашним питомцем для глобального искусственного интеллекта", - предположил в недавнем интервью глава высокотехнологичных компаний Илон Маск. В конце марта создатель электромобиля Tesla и ракет SpaceX запустил новую компанию Neuralink

Google отчиталась о рекордном числе запросов властей о раскрытии данных пользователей
Во второй половине 2016 года компания Google получила рекордное число запросов от властей разных стран на раскрытие данных пользователей, пишет Recode со ссылкой на отчет компании. Согласно отчету, с июля по декабрь 2016 года Google получила 45,5 тысячи запросов на раскрытие данных пользователей по всему миру

Апгрейд человека станет многомиллиардной индустрией
В фантастических фильмах нередко эксплуатируют сценарий, где людей усовершенствуют с помощью технологий. Часто это делают либо злобные корпорации с целью тотального контроля и наживы, либо апгрейд получает только лишь протагонист для борьбы со злом. В любом случае, для реального будущего

Приоткрытая платформа. Как мировое соглашение между ФАС и Google скажется на российских пользователях Android
Накануне Федеральная антимонопольная служба (ФАС) объявила о заключении мирового соглашения с компанией Google. Так, завершилось двухлетнее разбирательство, инициированное со стороны "Яндекса", между американским поисковиком и российским регулятором.

ФАС и Google заключили мировое соглашение
Почти двухгодичное противостояние Федеральной антимонопольной службы (ФАС России) и американского IT-гиганта Googlе завершилось мировым соглашением, которое утвердил суд. Американская корпорация пошла на уступки, сделав принадлежащую ей операционную систему Android свободной, и теперь любые разработчики приложений для Android-устройств

А судьи кто? Google решил отслеживать "фейковые новости"
Поисковик Google вслед за социальной сетью Facebook объявил о запуске функции проверки новостей, которая — в идеале — должна помочь читателям отделить проверенную, подлинную информацию от "фейков" — фальшивых новостей. Как отмечается в блоге компании, оценивать новости на достоверность будут сервисы PolitiFact и Snope.

В России создали ОС для работы с гостайной
Национальный центр информатизации (НЦИ), являющийся дочерней компанией госкорпорации "Ростех", разработал операционную систему, предназначенную для работы с информацией, составляющей гостайну. Как пишет газета "Известия, система, получившая название "ОСь", была создана на базе Linux.

Через "дыру" в Word заразились миллионы компьютеров
Уязвимость "нулевого дня" в текстовом редакторе Word, о существовании которой стало известно на этой неделе, использовалась как лазейка для распространения самого опасного банковского трояна Dridex. Как выяснили эксперты Proofpoint, "дыра" позволила злоумышленникам разослать зараженные вирусом RTF-документы на миллионы компьютеров

Microsoft окончательно прекратила поддержку Windows Vista
11 апреля компания Microsoft окончательно прекратила поддержку OC Windows Vista. Об этом сообщается на сайте Microsoft. Это означает, что теперь пользователи ПК, работающих под управлением Windows Vista, перестанут получать обновления безопасности и иные исправления. Кроме того, компания прекратит бесплатную и платную техническую поддержку

Анон, девственник, бородат. Почему никто не сможет победить ненавидящих и унижающих всех троллей
Интернет-тролли стали бичом современного общества: они мешают жить людям, всячески провоцируют их и нередко доводят до депрессии. «Лента.ру» разобралась, почему в сети всегда будет существовать неистребимая армия хейтеров и как обычные граждане превращаются в едких троллей.

Страницы:1234567891011...384

 Все новости  Экономика  Происшествия  Финансы и кредит  Бизнес-образование 
 Бизнес-адвокат  Политика  Наука и техника  Новости компаний 
 Спорт  IT технологии  Работа  Новости региона 
Индексы ММВБ РТС  
Dow Jones 20726,76 0,33% 18:46
NASDAQ 5912,77 0,26% 18:46
FTSE 7369,52 -0,06% 15:36
DAX 12256,43 0,44% 15:36
CAC 5089,64 0,41% 15:36
NIKKEI 19063,22 -0,80% 06:45
MICEX 2022,96 0,02% 15:01
RTS 1137,91 1,31% 15:01
All Share 49159,77 -0,60% 15:01
BSE Sensex 29647,42 0,39% 10:01
Рейтинг товаров
   Трубы Б/У
   Сваи СМКЗ - 100
   Парфюмерия элитная с доставкой
   Квартиры в жилом комплексе «Балтийский»
   Кондитерские изделия
   Бытовая химия .
   Плиты забора П5ВК, стакан ФО-2
   ЖБИ, плиты, панели, сваи, блоки
   КИРПИЧ ОБЛИЦОВОЧНЫЙ М-300,F-100 (белый)
   маты минераловатные м1 100


Рейтинг компаний
   "ИНКОМОС", ООО
   Открытые технологии
   Центр Запасных Частей ТД, ООО
   "ОФИСНЫЕ ТЕХНОЛОГИИ", ООО
   Ремэнергомеханизация СП, ООО
   Крафт Трейд, оптовая компания
   Мегаполис, Торговый Центр ООО Фирма "Сибирь Экспресс Сервис"
   ЭлектроКомплектСервис, ЗАО
   Интернет магазин "Канцтовары от Тамары"
   "Катрен" ЗАО НПК


Темы дня





Все замечания и пожелания присылайте на info@biznes-portal.com
Данные предоставлены © ИД "Реклама"
Rambler's Top100