Главная О компании Партнеры Блокнот Карта сайта Контакты 23 сентября 2017 г. 
Ваша компания на портале
Реклама на портале
Прайс-лист
Регистрация
Инструкция пользователя
Информация об ограничениях
Добавить в избранное
Послать ссылку другу
Сделать стартовой
Мой город
Новосибирск
Новосибирская область
  Погода Новосибирск  
пасмурно
пт(22.09)
облачно
сб(23.09)
+5° +7° +4° +6°
4-6 м/с С-З 3-5 м/с С-З
  Курсы валют ЦБ РФ  
22.09 23.09
USD 58,2242 57,6527 -0,99%
EUR 69,2635 69,0737 -0,27%
 
Показать на карте Подробно Все курсы валют  

IT технологии


Машина должна сказать "нет": как защитить робота от человека

15 апреля 2017 г.

Машина должна сказать "нет": как защитить робота от человека
Роботы уже пришли! Для многих такое заявление еще кажется фантастикой, однако специалисты не сомневаются, что будущее, описанное в романах, уже наступило. Более того, многие ученые, в том числе и знаменитый ученый Стивен Хокинг, уже серьезно говорят о нашествии роботов. Они способны поработить человека, и не помогут никакие законы Айзека Азимова, которые должны быть заложены в мозгах машин. Роботы будут настолько умны, что сумеют преодолеть все запреты, пишет "Российская газета".

Уже сегодня умные машины готовы взять на себя 45 процентов деятельности людей. Примеры? Роботы уже давно "свои" в финансовой сфере, скажем, на биржевом рынке они выполняют около 80 процентов операций. В ближайшие 7-8 лет передача рутинных операций роботам приведет к росту безработицы на 35-40 процентов. Причем речь идет не только о производстве, но и об интеллектуальной деятельности. Роботы уже пишут музыку и стихи, машина-журналист за минуту успешно написала статью. Но и этого мало. Роботы замахнулись даже на руководителей. Такой "босс" вначале должен пройти обучение, следя за работой человека, анализируя его ошибки, выбирая оптимальный вариант. Достоинства "железного" начальника очевидны. Он способен держать в "голове" все маршруты движения документов, различные варианты принятия решений, мгновенно сравнивать их последствия, учиться на ошибках и уже никогда их не повторять.

Какую карьеру способны сделать роботы? До какого этажа руководящей вертикали могут подняться, и разрешит ли человек так унизить себя? Эти вопросы сегодня активно обсуждаются не только создателями такой техники, но и экономистами, юристами, бизнесменами, социологами.

Совершенно неожиданный взгляд на проблему предлагают американские ученые Гордон Бриггс и Маттиас Шойц из Университета Тафтса. Они уверены, что самую большую угрозу для человечества несут не суперинтеллектуальные машины, которые якобы в какой-то момент не захотят выполнять команды человека и выйдут из его подчинения, а сам человек. Прежде всего это его ошибки при создании такой техники. Дело в том, что в самих командах, которые человек дает своему подопечному, могут быть нечеткие, двусмысленные инструкции. Скажем, человек опаздывает на работу и дает команду роботу-автомобилю как можно быстрей доставить его в офис. А если на шоссе сильная гололедица? Что делать роботу? Если беспрекословно выполнять команду, то велик шанс попасть в аварию. Не подчиняться? Но это должно быть заложено в алгоритме. Есть варианты, когда человек сможет вводить роботов в заблуждение, стремясь использовать в своих корыстных целях.

Как быть в таких ситуациях? Бриггс и Шойц считают, что робота надо научить говорить "нет". Для этого его предлагает наделить способностью к хотя бы элементарному мышлению, чтобы он мог понять, опасно или нет выполнять команду человека. Задача, прямо скажем, сложнейшая, но ученые уже взялись за ее решение. Во всяком случае, составили необходимые алгоритмы, встроили их в мозги робота и начали первые эксперименты.

А как поведут себя люди, если "морализирующие" и "умные" роботы откажутся выполнять их команды? Согласятся или нет участвовать в обмане? В использовании человеком машины, чтобы причинить вреда другому человеку? Это принципиальные вопросы. В принципе, робот может стать на пути злой воли человека, распознавать и устранять его недостатки. Перспектива, прямо скажем, неожиданная и захватывающая.

Юрий Медведев

 

 

Источник: www.rg.ru
Просмотров: 352

Другие новости этого раздела:


Дуров обвинил главу Роскомнадзора в незнании принципов шифрования сообщений
Основатель мессенджера Telegram Павел Дуров на своей странице во «ВКонтакте» в понедельник, 26 июня, прокомментировал заявление главы Роскомнадзора Александра Жарова, обвинившего его в «демонстрации правового нигилизма» и нежелании предоставить спецслужбам «ключи от информации», сообщает Lenta.ru.

Вывод средств с PayPal на Яндекс.Деньги
Использование электронных финансовых средств во Всемирной сети становится популярнее с каждым днем и все большее количество пользователей интересуются понятиями «электронный кошелек» и манипуляциями с ним.

Как открыть бизнес в интернете?
Если вы решили начать свой бизнес в интернете с нуля, наличие веб-ресурса является неотъемлемым атрибутом, без которого просто невозможно успешное ведение и развитие бизнеса. Создание продающего интернет-ресурса позволяет

Рунет защитят от выключения из-за рубежа
Национальный сегмент сети интернет обезопасят от выключения иными государствами. Для этого в 2018 году в законодательстве будет зафиксирован статус Рунета и описана схема его работы. Технически устранить возможность отключения России от интернета планируется к 2021 году.

Обновление Windows "убило" компьютеры
Корпорация Microsoft выпустила тестовую сборку Windows 10 16212 для участников программы Windows Insider. Обновление превращает в "кирпичи" как компьютеры, так и мобильные устройства. Об этом, как пишет "Российская газета", предупреждает MSPowerUser.

ЦБ будет разрабатывать национальную криптовалюту
ЦБ будет разрабатывать национальную криптовалюту. Об этом рассказала зампредседателя Банка России Ольга Скоробогатова. Ранее за скорейшую легализацию и начало регулирования криптовалют высказывался глава Сбербанка Герман Греф

WikiLeaks опубликовала материалы о созданном в ЦРУ вирусе "Пандемия"
Проект WikiLeaks опубликовал новую порцию документов ЦРУ из массива под названием Vault 7, первые документы которого были обнародованы в начале марта. Свежая подборка включает в себя пять документов, касающихся проекта Pandemic ("Пандемия"), в рамках которого американская спецслужба разрабатывала вредоносное ПО для заражения ПК на Windows

В старых Windows обнаружили необычную особенность
Операционная система Windows XP, выпущенная в 2001 году, оказалась устойчивой к заражению нашумевшим вирусом WannaCry, который в середине мая поразил сотни тысяч компьютеров по всему миру, сообщает "Российская газета".

Кибербезопасность по-китайски: в КНР вступает в силу новый закон об интернете
1 июня в Китае вступает в силу Закон о кибербезопасности КНР, принятый в октябре 2016 года постоянным комитетом Всекитайского собрания народных представителей (ПК ВСНП). Нормативный акт появился на свет спустя три десятилетия после того, как профессор одного из пекинских вузов Цянь Тяньбай впервые вошел в интернет для переписки с зарубежными коллегами. Закон, состоящий из шести глав и дополнения, затрагивает права и интересы более чем 700 млн пользователей китайского сегмента интернета (т. н. Chinanet), определяя также обязанности провайдеров электронных услуг. В нем изложены

Эксперты назвали создателей вируса WannaCry
Специалисты в области кибербезопасности американской компании Flashpoint предполагают, что создателями вируса-вымогателя WannaCry могут быть жители южных регионов Китая, Гонконга, Тайваня или Сингапура, сообщило издание South China Morning Post. По данным лингвокриминалистической экспертизы, программа была написана

Страницы:1234567891011...388

 Все новости  Экономика  Происшествия  Финансы и кредит  Бизнес-образование 
 Бизнес-адвокат  Политика  Наука и техника  Новости компаний 
 Спорт  IT технологии  Работа  Новости региона 
Индексы ММВБ РТС  
Dow Jones 20726,76 0,33% 18:46
NASDAQ 5912,77 0,26% 18:46
FTSE 7369,52 -0,06% 15:36
DAX 12256,43 0,44% 15:36
CAC 5089,64 0,41% 15:36
NIKKEI 19063,22 -0,80% 06:45
MICEX 2022,96 0,02% 15:01
RTS 1137,91 1,31% 15:01
All Share 49159,77 -0,60% 15:01
BSE Sensex 29647,42 0,39% 10:01
Рейтинг товаров
   Трубы Б/У
   Сваи СМКЗ - 100
   Парфюмерия элитная с доставкой
   Квартиры в жилом комплексе «Балтийский»
   Кондитерские изделия
   Бытовая химия .
   Плиты забора П5ВК, стакан ФО-2
   ЖБИ, плиты, панели, сваи, блоки
   КИРПИЧ ОБЛИЦОВОЧНЫЙ М-300,F-100 (белый)
   маты минераловатные м1 100


Рейтинг компаний
   "ИНКОМОС", ООО
   Открытые технологии
   Центр Запасных Частей ТД, ООО
   "ОФИСНЫЕ ТЕХНОЛОГИИ", ООО
   Ремэнергомеханизация СП, ООО
   Крафт Трейд, оптовая компания
   Мегаполис, Торговый Центр ООО Фирма "Сибирь Экспресс Сервис"
   ЭлектроКомплектСервис, ЗАО
   Интернет магазин "Канцтовары от Тамары"
   "Катрен" ЗАО НПК


Темы дня





Все замечания и пожелания присылайте на info@biznes-portal.com
Данные предоставлены © ИД "Реклама"
Rambler's Top100