Главная О компании Партнеры Блокнот Карта сайта Контакты 25 мая 2017 г. 
Ваша компания на портале
Реклама на портале
Прайс-лист
Регистрация
Инструкция пользователя
Информация об ограничениях
Добавить в избранное
Послать ссылку другу
Сделать стартовой
Мой город
Новосибирск
Новосибирская область
  Погода Новосибирск  
ясно
ср(24.05)
пасмурно
чт(25.05)
+25° +27° +14° +16°
6-8 м/с Ю-З 7-9 м/с Ю-З
  Курсы валют ЦБ РФ  
25.05 26.05
USD 56,2743 56,0701 -0,36%
EUR 62,9203 63,0116 0,14%
 
Показать на карте Подробно Все курсы валют  

IT технологии


Машина должна сказать "нет": как защитить робота от человека

15 апреля 2017 г.

Машина должна сказать "нет": как защитить робота от человека
Роботы уже пришли! Для многих такое заявление еще кажется фантастикой, однако специалисты не сомневаются, что будущее, описанное в романах, уже наступило. Более того, многие ученые, в том числе и знаменитый ученый Стивен Хокинг, уже серьезно говорят о нашествии роботов. Они способны поработить человека, и не помогут никакие законы Айзека Азимова, которые должны быть заложены в мозгах машин. Роботы будут настолько умны, что сумеют преодолеть все запреты, пишет "Российская газета".

Уже сегодня умные машины готовы взять на себя 45 процентов деятельности людей. Примеры? Роботы уже давно "свои" в финансовой сфере, скажем, на биржевом рынке они выполняют около 80 процентов операций. В ближайшие 7-8 лет передача рутинных операций роботам приведет к росту безработицы на 35-40 процентов. Причем речь идет не только о производстве, но и об интеллектуальной деятельности. Роботы уже пишут музыку и стихи, машина-журналист за минуту успешно написала статью. Но и этого мало. Роботы замахнулись даже на руководителей. Такой "босс" вначале должен пройти обучение, следя за работой человека, анализируя его ошибки, выбирая оптимальный вариант. Достоинства "железного" начальника очевидны. Он способен держать в "голове" все маршруты движения документов, различные варианты принятия решений, мгновенно сравнивать их последствия, учиться на ошибках и уже никогда их не повторять.

Какую карьеру способны сделать роботы? До какого этажа руководящей вертикали могут подняться, и разрешит ли человек так унизить себя? Эти вопросы сегодня активно обсуждаются не только создателями такой техники, но и экономистами, юристами, бизнесменами, социологами.

Совершенно неожиданный взгляд на проблему предлагают американские ученые Гордон Бриггс и Маттиас Шойц из Университета Тафтса. Они уверены, что самую большую угрозу для человечества несут не суперинтеллектуальные машины, которые якобы в какой-то момент не захотят выполнять команды человека и выйдут из его подчинения, а сам человек. Прежде всего это его ошибки при создании такой техники. Дело в том, что в самих командах, которые человек дает своему подопечному, могут быть нечеткие, двусмысленные инструкции. Скажем, человек опаздывает на работу и дает команду роботу-автомобилю как можно быстрей доставить его в офис. А если на шоссе сильная гололедица? Что делать роботу? Если беспрекословно выполнять команду, то велик шанс попасть в аварию. Не подчиняться? Но это должно быть заложено в алгоритме. Есть варианты, когда человек сможет вводить роботов в заблуждение, стремясь использовать в своих корыстных целях.

Как быть в таких ситуациях? Бриггс и Шойц считают, что робота надо научить говорить "нет". Для этого его предлагает наделить способностью к хотя бы элементарному мышлению, чтобы он мог понять, опасно или нет выполнять команду человека. Задача, прямо скажем, сложнейшая, но ученые уже взялись за ее решение. Во всяком случае, составили необходимые алгоритмы, встроили их в мозги робота и начали первые эксперименты.

А как поведут себя люди, если "морализирующие" и "умные" роботы откажутся выполнять их команды? Согласятся или нет участвовать в обмане? В использовании человеком машины, чтобы причинить вреда другому человеку? Это принципиальные вопросы. В принципе, робот может стать на пути злой воли человека, распознавать и устранять его недостатки. Перспектива, прямо скажем, неожиданная и захватывающая.

Юрий Медведев

 

 

Источник: www.rg.ru
Просмотров: 203

Другие новости этого раздела:


Госкомпании избавляются от иностранного софта
Доля закупок российского программного обеспечения (ПО) компаниями с государственным участием в 2016 году достигала 94%. Такие показатели стали результатом выполнения директивы первого вице-премьера Игоря Шувалова, выпущенной год назад.

В Госдуму внесен законопроект о регулировании работы мессенджеров
В России владельцев мессенджеров обяжут регистрировать своих российских пользователей по номеру мобильного телефона. Законопроект, который вводит юридическое понятие мессенджера, внесен в Госдуму, сообщает "Российская газета".

Google намерен следить за покупками своих пользователей оффлайн
Корпорация Google собирает информацию о предпочтениях пользователей, отслеживая их активность в интернете. От того, что человек ищет в поисковиках и какие товары покупает, зависит, какую рекламу он видит на сайтах. Однако теперь интернет-гигант решил распространить эту практику за пределы всемирной паутины

Виртуальный рэкет: можно ли вернуть украденные вирусом деньги
Вирус-вымогатель WannaCryptor выманил у пользователей по всему миру десятки тысяч долларов. РБК выяснил, могут ли пострадавшие от вирусных атак вернуть свои деньги и как обезопасить себя от потерь в будущем.

Раскрыты тайные внутренние инструкции Facebook
Политика и практика администрации глобальной социальной сети Facebook допускает прямую трансляцию самоповреждений, фото издевательств над животными, комментарии, разжигающие ненависть и пожелания смерти. В то же время, такие фразы как "Кто-нибудь, убейте Трампа!" должны удаляться из сети, поскольку, будучи главой государства, президент США Дональд Трамп принадлежит к категории персон, нуждающихся в повышенной защите. Эти и другие подробности внутренних правил для сотрудников и модераторов Facebook стали известны британскому изданию The Guardian, опубликовавшему

Названа самая опасная социальная сеть
Независимая британская организация здравоохранения RSPH (Royal Society for Public Health) совместно с движением Young Health Movement опубликовали отчет о влиянии социальных сетей и медиа на психическое здоровье молодых людей, сообщает "Российская газета".

Схвачены хакеры, заразившие миллион телефонов
Управление К БСТМ России, отдел К БСТМ УМВД России по Ивановской области и Следственная часть следственного управления по Ивановской области при активном содействии Group-IB пресекли деятельность киберпреступной группы, укравшей десятки миллионов рублей при помощи атак на мобильные устройства клиентов российских банков.

Как спастись от всемирной хакерской атаки?
Мощная кибератака обрушилась на многие страны в пятницу вечером. Хакеры парализовали деятельность десятков британских больниц, крупнейшей телекоммуникационной компании Испании Telefonica, немецкого железнодорожного оператора Deutsche Bahn, а также ряда других предприятий по всему миру. В России о проблемах заявил сотовый оператор "МегаФон", МВД, РЖД.

Компьютерные вирусы: врага надо «знать в лицо»
В 21-м веке компьютерные вирусы стали такой же неотъемлемой частью нашей жизни, как компьютеры, всяческие гаджеты и Интернет. Продвинутые пользователи хорошо знают о грозящих опасностях, поэтому всячески оберегают свои данные, устанавливая своевременно антивирусные защиту. Другие же пользователи, к сожалению, недооценивают опасность

"Мы уязвимы": в США ощущают бессилие перед "компьютерным Перл-Харбором"
Бывший Верховный главнокомандующий Объединенными вооруженными силами НАТО в Европе, отставной адмирал ВМС США Джордж Ставридис заявил, что массированная кибератака, которой подвергся мир 12 мая, вскрыла "вопиющие уязвимости" в системе компьютерной безопасности Соединенных Штатов. По его словам, несмотря на миллиарды долларов, инвестированных в эту сферу как правительством, так и частным сектором, кибербезопасность в США значительно отстает от уровня реальных угроз. По словам директора Европола Роберта Уэйнрайта, кибератака 12 мая затронула

Страницы:1234567891011...387

 Все новости  Экономика  Происшествия  Финансы и кредит  Бизнес-образование 
 Бизнес-адвокат  Политика  Наука и техника  Новости компаний 
 Спорт  IT технологии  Работа  Новости региона 
Индексы ММВБ РТС  
Dow Jones 20726,76 0,33% 18:46
NASDAQ 5912,77 0,26% 18:46
FTSE 7369,52 -0,06% 15:36
DAX 12256,43 0,44% 15:36
CAC 5089,64 0,41% 15:36
NIKKEI 19063,22 -0,80% 06:45
MICEX 2022,96 0,02% 15:01
RTS 1137,91 1,31% 15:01
All Share 49159,77 -0,60% 15:01
BSE Sensex 29647,42 0,39% 10:01
Рейтинг товаров
   Трубы Б/У
   Сваи СМКЗ - 100
   Парфюмерия элитная с доставкой
   Квартиры в жилом комплексе «Балтийский»
   Кондитерские изделия
   Бытовая химия .
   Плиты забора П5ВК, стакан ФО-2
   ЖБИ, плиты, панели, сваи, блоки
   КИРПИЧ ОБЛИЦОВОЧНЫЙ М-300,F-100 (белый)
   маты минераловатные м1 100


Рейтинг компаний
   "ИНКОМОС", ООО
   Открытые технологии
   Центр Запасных Частей ТД, ООО
   "ОФИСНЫЕ ТЕХНОЛОГИИ", ООО
   Ремэнергомеханизация СП, ООО
   Крафт Трейд, оптовая компания
   Мегаполис, Торговый Центр ООО Фирма "Сибирь Экспресс Сервис"
   ЭлектроКомплектСервис, ЗАО
   Интернет магазин "Канцтовары от Тамары"
   "Катрен" ЗАО НПК


Темы дня





Все замечания и пожелания присылайте на info@biznes-portal.com
Данные предоставлены © ИД "Реклама"
Rambler's Top100