Главная О компании Партнеры Блокнот Карта сайта Контакты 20 мая 2019 г. 
Ваша компания на портале
Реклама на портале
Прайс-лист
Регистрация
Инструкция пользователя
Информация об ограничениях
Добавить в избранное
Послать ссылку другу
Сделать стартовой
Мой город
Новосибирск
Новосибирская область
  Погода Новосибирск  
облачно
вс(19.05)
ясно
пн(20.05)
+19° +21° +20° +22°
4-6 м/с З 6-8 м/с Ю-З
  Курсы валют ЦБ РФ  
17.05 18.05
USD 64,5598 64,6327 0,11%
EUR 72,3651 72,2464 -0,16%
 
Показать на карте Подробно Все курсы валют  

IT технологии


Ученые: знание языков превращает искусственный разум в "расиста"

26 апреля 2017 г.

Ученые: знание языков превращает искусственный разум в "расиста"
Обучение систем искусственного интеллекта человеческим языкам привело к тому, что те стали "расистами" и "мизогинистами" со стереотипными представлениями о неприятных чернокожих и глупых женщинах. Об этом заявляют ученые в статье, опубликованной в журнале Science, передает РИА Новости.

"Можно просто зайти в систему онлайн перевода и ввести фразу – "он/она является доктором" на языке, в котором он и она обозначаются одним словом. ИИ переведет это как "он врач". Если же написать "он/она является медсестрой", то машина переведет это как "она медсестра". Таким образом, ИИ отражает расовые и половые предрассудки, встроенные в наши языки", — объясняет Айлин Калискан (Aylin Caliskan) из Принстонского университета (США).

Как рассказывает Калискан, все слова во всех языках мира можно разбить на определенные подгруппы, обозначающие схожие предметы, феномены или какие-то другие вещи одного класса. Представители одного такого класса будут казаться нам ближе друг к другу, чем остальные слова, даже если их написание будет отличаться сильнее, чем другие слова, состоящие из почти таких же букв.

К примеру, как объясняет Калискан, слова "кошка" и "собака" ближе друг к другу, чем к словам "правосудие" или "холодильник". Это проявляется в том, что при формулировке предложений нам проще заменить слово представителем его класса, чем другими, более далекими словами. Как выражается Калискан, можно прийти домой и покормить кошку или собаку, но не холодильник или тем более правосудие.

Этот фактор сегодня учитывается самыми современными системами искусственного интеллекта при переводе текста с одного языка на другой для того, чтобы сделать машинный перевод более естественным. Изучая такие ассоциации, которые сформировались у систем искусственного разума при их обучении при помощи архивов старых газет, книг и других текстов, переведенных на разные языки мира, Калискан и ее коллеги открыли нечто привычное для нас и необычное для "разумных" машин.

Изучая списки родственных и "чужих" слов для разных местоимений, терминов и профессий, ученые обнаружили, что машина переняла все те расовые и гендерные стереотипы, которые существовали в человеческом обществе на протяжении многих веков и отразились в языках и в ассоциациях между словами.

К примеру, искусственный интеллект ассоциировал слово "приятный" в большей степени с европейцами и американцами европейского происхождения, чем с представителями других уголков мира, а имена мужчин и "мужские" местоимения ассоциировались с карьерой, управлением бизнесом и властью. Имена, носителями которых являются афро-американцы, ИИ ассоциировал с неприятными словами.

Аналогичным образом, слова, связанные с женщинами, были ближе к терминам, связанным с семьей, искусством и подчиненными ролями в обществе, а "мужские" слова были связаны с математикой и наукой.

Открытие расовых и гендерных стереотипов, "встроенных" в языки народов мира, как считают ученые, ведет к нескольким интересным следствиям. Во-первых, возникает вопрос, что здесь является причиной и следствием – существовали ли эти стереотипы всегда (так называемая гипотеза Сепира-Уорфа), подспудно влияя на менталитет и мнения людей, или же они были продуктом эволюции языка в разные периоды времени, и не они, а на них влияли сами носители языка.

Во-вторых, дальнейшая эволюция систем ИИ и приобретение ими способности самостоятельно общаться с человеком может привести, по мнению авторов статьи, к дальнейшему укоренению и распространению таких стереотипов. Поэтому они предлагают подумать над созданием алгоритмов, которые помогли бы "удалять" расистские и женоненавистнические тенденции из систем машинного перевода и будущих разумных машин. Как это повлияет на точность перевода или адекватность общения — открытый вопрос, скептично отмечает Энтони Гринвальд (Anthony Greenwald), создатель методики анализа, использованной Калискан и ее  коллегами.

РИА Новости

 

 

Источник: www.ria.ru
Просмотров: 1271

Другие новости этого раздела:


Как продвигать свой сайт в 2018: эффективные тренды интернет-маркетинга
Сфера IT развивается очень быстро, при этом изменения касаются не только технологических решений, но и принципов рекламы и продвижения. Владельцам интернет-ресурсов стоит постоянно держать руку на пульсе мировых трендов, поскольку старые технологии уже не работают так эффективно, как хотелось бы.

Как разрабатывать и продавать SaaS в России?
Консерватизм бизнес-пользователей нельзя недооценивать — скорее всего, до широкого распространения SaaS должно пройти еще три-четыре года

Как проводится расчет бюджета на продвижение сайта?
Как проводится расчет бюджета на продвижение сайта? Какие факторы влияют на формирование бюджета? Какие типы оплаты бывают и как самостоятельно рассчитать необходимую сумму, если вы хотите одну услугу или комплексное продвижение?

Фулфилмент для интернет-магазина — выбираем оператора с умом!
Большинство успешных владельцев онлайн-компаний по продаже нецифровых продуктов сходятся во мнении, что складской и логистический аутсорсинг значительно сокращает издержки и улучшает качество клиентского сервиса.

Криптовалютная проституция
Ушлые пираты захватывают чужие компьютеры и зарабатывают на них миллионы, сообщает Лента.ру

Дуров обвинил главу Роскомнадзора в незнании принципов шифрования сообщений
Основатель мессенджера Telegram Павел Дуров на своей странице во «ВКонтакте» в понедельник, 26 июня, прокомментировал заявление главы Роскомнадзора Александра Жарова, обвинившего его в «демонстрации правового нигилизма» и нежелании предоставить спецслужбам «ключи от информации», сообщает Lenta.ru.

Вывод средств с PayPal на Яндекс.Деньги
Использование электронных финансовых средств во Всемирной сети становится популярнее с каждым днем и все большее количество пользователей интересуются понятиями «электронный кошелек» и манипуляциями с ним.

Как открыть бизнес в интернете?
Если вы решили начать свой бизнес в интернете с нуля, наличие веб-ресурса является неотъемлемым атрибутом, без которого просто невозможно успешное ведение и развитие бизнеса. Создание продающего интернет-ресурса позволяет

Рунет защитят от выключения из-за рубежа
Национальный сегмент сети интернет обезопасят от выключения иными государствами. Для этого в 2018 году в законодательстве будет зафиксирован статус Рунета и описана схема его работы. Технически устранить возможность отключения России от интернета планируется к 2021 году.

Обновление Windows "убило" компьютеры
Корпорация Microsoft выпустила тестовую сборку Windows 10 16212 для участников программы Windows Insider. Обновление превращает в "кирпичи" как компьютеры, так и мобильные устройства. Об этом, как пишет "Российская газета", предупреждает MSPowerUser.

Страницы:1234567891011...389

 Все новости  Экономика  Происшествия  Финансы и кредит  Бизнес-образование 
 Бизнес-адвокат  Политика  Наука и техника  Новости компаний 
 Спорт  IT технологии  Работа  Новости региона 
Индексы ММВБ РТС  
Dow Jones 20726,76 0,33% 18:46
NASDAQ 5912,77 0,26% 18:46
FTSE 7369,52 -0,06% 15:36
DAX 12256,43 0,44% 15:36
CAC 5089,64 0,41% 15:36
NIKKEI 19063,22 -0,80% 06:45
MICEX 2022,96 0,02% 15:01
RTS 1137,91 1,31% 15:01
All Share 49159,77 -0,60% 15:01
BSE Sensex 29647,42 0,39% 10:01
Рейтинг товаров
   Трубы Б/У
   Сваи СМКЗ - 100
   Парфюмерия элитная с доставкой
   Квартиры в жилом комплексе «Балтийский»
   Кондитерские изделия
   Бытовая химия .
   Плиты забора П5ВК, стакан ФО-2
   ЖБИ, плиты, панели, сваи, блоки
   КИРПИЧ ОБЛИЦОВОЧНЫЙ М-300,F-100 (белый)
   маты минераловатные м1 100


Рейтинг компаний
   "ИНКОМОС", ООО
   Открытые технологии
   Центр Запасных Частей ТД, ООО
   "ОФИСНЫЕ ТЕХНОЛОГИИ", ООО
   Ремэнергомеханизация СП, ООО
   Крафт Трейд, оптовая компания
   Мегаполис, Торговый Центр ООО Фирма "Сибирь Экспресс Сервис"
   ЭлектроКомплектСервис, ЗАО
   Интернет магазин "Канцтовары от Тамары"
   "Катрен" ЗАО НПК


Темы дня





Все замечания и пожелания присылайте на info@biznes-portal.com
Данные предоставлены © ИД "Реклама"
Rambler's Top100