Сергей Манаков предлагает Вам запомнить сайт «Медвежий угол»
Вы хотите запомнить сайт «Медвежий угол»?
Да Нет
×
Прогноз погоды

О семье, любви, правдиво о политике и немного о медведях.

Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин

развернуть

Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин

Что там у нас было про ИИ такого, чего никто не мог ожидать? А, Вот: созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через сутки после запуска научился ругаться и отпускать расистские замечания. И еще: чат-боты, которые были созданы Фейсбук для переговоров с людьми, вышли из-под управления и начали общаться на собственном языке.

И вот очередное очеловечивание искусственного интеллекта, который вообще то по задумке должен быть "выше всего этого".

Специалисты по машинному обучению Amazon обнаружили, что искусственный интеллект, который обрабатывает резюме кандидатов на должности в компании, дискриминирует женщин-соискателей. Эта особенность не закладывалась в систему умышленно — она явилась результатом машинного обучения.

Механизм сортировки резюме на базе искусственного интеллекта разрабатывается в Amazon с 2014 г. группой из 12 специалистов в Эдинбурге. Уже в 2015 г. в компании заметили, что новая система не придерживается принципа гендерной нейтральности при оценке кандидатов на должности разработчиков ПО и другие технические вакансии.

Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в ИТ-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины.



Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин



Лингвистическая отбраковка

В итоге искусственный интеллект начал отбраковывать резюме, содержавшие слово «женский» в таких, например, выражениях как «капитан женского шахматного клуба». Механизм также снижал оценки выпускницам двух женских колледжей, но источники Reuters не уточняют их названия. Оценивая резюме, искусственный интеллект присваивал им от одной до пяти звезд — очень похоже на то, как покупатели оценивают товары на сайте Amazon.

Система обращала внимание и на другие слова. Разработчики создали 500 компьютерных моделей для разных должностных обязанностей и географических локаций. Каждая модель была обучена распознавать около 50 тыс. слов-сигналов, которые присутствовали в резюме соискателей.


Примечательно, что механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме ИТ-специалистов, такие как умение писать различные коды и т. п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде «выполнил» (executed) или «захватил» (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.



Дальнейшая судьба проекта

Amazon скорректировала работу системы таким образом, чтобы она больше не реагировала на слова-сигналы. Однако это не было гарантией, что механизм не найдет другого способа определять резюме, принадлежащие женщинам. К началу 2017 г. компания разочаровалась в проекте и распустила команду. Источники Reuters утверждают, что специалисты по кадрам принимали во внимание рекомендации системы, но никогда не полагались на них исключительно.

Один из источников сообщает, что проект закрыт. Другой утверждает, что в Эдинбурге была сформирована новая команда, чтобы продолжить разработку механизма, но на этот раз с уклоном в равноправие и инклюзивность. Еще один источник сообщает, что сильно видоизмененная версия механизма сейчас используется для выполнения рутинной работы — например, для удаления повторяющихся резюме из базы данных.


источники

http://www.cnews.ru/news/top/2018-10-10_iskusstvennyj_intellekt_amazon_ulichili_v_gendernoj



Опубликовал Сергей Манаков , 11.10.2018 в 20:18
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Комментарии

Показать предыдущие комментарии (показано %s из %s)
Показать новые комментарии
Комментарии Facebook

Сейчас онлайн

  • Александр Гусаченко
  • Gala Sapetina
  • Сергей М
  • Ольга Горнак
  • андрей окуньков
  • Света Кобзева
  • Александр Максимов
  • Галина Кузнецова
  • марат ильченко
  • Анна Торохова
  • Дмитрий Малахов
  • виктор поречный
  • Людмила Шарова
  • Владимир Козлов
  • Татьяна Рудометова

Последние комментарии

Вячеслав 5
Shavkat Kuvatov
Владимир Eвтеев
Это что  ещё  за  явление  пиндосской подстилки  народу?
Владимир Eвтеев (без темы)
Владимир Eвтеев
Ольга Мамаева
Читать

Поиск по блогу

Вопросы

Скажите пожалуйста почему в "медвежьем углу
Елена Timm 7 сен 18, 07:41
+1 6
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Поддерживаете ли Вы пенсионную реформу в её нынешнем виде? 
Сергей Манаков 30 авг 18, 18:16
-1 29
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Вопрос к новичкам сайта "Медвежий угол": Нравится ли наш сайт?
Сергей Манаков 3 дек 16, 20:42
+34 62
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Последние ответы

Вячеслав Прилуков
хамьё корнев. почемуто не фильтруеися сайтом. или здесь на сайте хамство в порядке вещей.
Вячеслав Прилуков 22 февраля, в 04:45
Последние темы сайта
По поводу грабительской мусорной реформы. Мнение. Субъективное. Мое.
Сергей Манаков 22 фев, 15:27
+1 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Советский город, смытый в океан
Сергей Манаков 22 фев, 10:43
0 0
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
(без темы)
Сергей Манаков 22 фев, 10:03
+8 15
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Популярные статьи
В Одессе гибнут поджигатели Дома профсоюзов
Сергей Манаков 11 май 16, 10:46
+2056 490
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Многоходовка Путина с грузовиками
Сергей Манаков 15 фев 16, 15:55
+1553 428
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0
Путин направил решающее послание Западу - Шокированный мир возвращается к жизни и реальности
Сергей Манаков 8 окт 15, 20:01
+1436 350
Статистика 1
Показы: 1 Охват: 0 Прочтений: 0

Сейчас онлайн

  • Александр Гусаченко
  • Gala Sapetina
  • Сергей М
  • Ольга Горнак
  • андрей окуньков
  • Света Кобзева
  • Александр Максимов
  • Галина Кузнецова
  • марат ильченко
  • Анна Торохова
  • Дмитрий Малахов
  • виктор поречный
  • Людмила Шарова
  • Владимир Козлов
  • Татьяна Рудометова