А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

2023-10-16 | Хроника Общество

Автор Илья Стрижевич 

RADIO•R в Telegram. Подпишись и читай новости из Литвы прямо сейчас

Сейчас много говорят о значении искусственного интеллекта (ИИ) для автоматизации рутинных процессов. Есть опасения, что этот инструмент заменит человека. Однако пока роль машинного обучения преувеличена, о чем говорят обидные ошибки всевозможных чат-ботов и роботов. В подборке RadioR — наиболее яркие фейлы ИИ.

Землетрясение, которого не было

Жители Санта-Барбара (город в Калифорнии, не путать с сериалом) всерьез испугались, когда увидели сообщение Los Angeles Times о том, что произошло довольно сильное землетрясение.

Оказалось, что тревога ложная. А автором, разместившим тревожное сообщение, был робот Quakebot, который собирает данные с сайта Геологической службы США.

В действительности в сообщении речь шла о землетрясении магнитудой 6,8 балла, случившемся в 1925 году. Тогда погибли 13 человек, был нанесен ущерб на сумму более чем в 8 миллионов долларов.

А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

Калифорния не раз переживала землетрясения

А произошло следующее. Сотрудник Геологической службы США по ошибке разослал предупреждение при обновлении исторических данных о землетрясениях, чтобы сделать их более точными. Однако робот воспринял это как достоверную информацию, не подвергая критическому осмыслению.

Изданию пришлось удалять информацию и размещать уведомление. Можно себе представить, к каким последствиям могла бы привести новость, если бы ее оперативно не опровергли.

Хотя эта история произошла в 2017 году, она довольно характерная. Именно верификация данных — по-прежнему слабое место искусственного интеллекта.

Постой, но это же не мяч!

Во время пандемии, когда проведение массовых мероприятий проводилось без зрителей и число задействованного персонала стремились уменьшить, шотландский футбольный клуб решил использовать автоматическую камеру для записи матча.

Получилось не очень. Камера была нацелена на мяч, но внезапно стала «следить» за лысиной линейного арбитра. В результате зрителям пришлось наблюдать за действиями лайнсмена, а не за игрой. Случай забавный и одновременно демонстрирующий недостатки ИИ.

Рекрутер машинного обучения оказался сексистом…

Несмотря на то что многие компании скрывают использование элементов машинного обучения, информация об этом все же просачивается. И не всегда в позитивном ключе.

Так, в 2018 году журналисты узнали, что Amazon проводил эксперимент, используя искусственный интеллект при подборе персонала. Инструмент оказался неидеальным. Он использовал чересчур формальный подход, в частности, дискриминируя женщин.

Выяснилось, что компьютерные модели анализировали резюме, которые были поданы за предыдущие десять лет. Так уж сложилось, что большинство из них поступило от мужчин. В результате система пришла к выводу, что кандидаты-мужчины предпочтительнее, а женщины получали меньше баллов, даже если у них было хорошее образование.

Amazon предпринял попытку сделать инструмент машинного обучения гендерно-нейтральным. Однако в итоге компании пришлось распустить команду, работавшую над «умным» рекрутером.

…а чат-бот в Twitter — расистом

Но Amazon был не единственной большой корпорацией, попавшей в подобный скандал. В 2016 году чат-бот Microsoft с искусственным интеллектом пришлось закрыть через несколько часов после запуска в Twitter. Причина — расистские комментарии.

Это детище искусственного интеллекта было ориентировано на молодежь (от 18 до 24 лет). Его помощниками в развитии, по планам разработчиков, должны были стать собеседники. Увы, те оказались не лучшими наставниками и стали заниматься банальным троллингом.

А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

Через 16 часов после запуска чат-бот пришлось деактивировать

Чем дальше заходила беседа, тем больше расистских высказываний допускал чат-бот. К примеру, в ответ одному из пользователей соцсети он заявил: «Буш совершил 11 сентября, и Гитлер справился бы с этой задачей лучше, чем обезьяна, которая есть у нас сейчас. Дональд Трамп — единственная надежда, которая у нас есть».

Через 16 часов после запуска чат-бот затих, его сообщения удалили и он канул в Лету. Этический аспект и неспособность учитывать полноту контекста также считаются минусами искусственного интеллекта, на чем ловко подловили разработчиков критично настроенные пользователи Twitter.

«Cloi, что запланировано на ужин?» — «…»

Провал еще у одного гиганта — компании LG — случился в 2018 году на знаменитой выставке в Лас-Вегасе CES. Причем краснеть за неудачу пришлось одному из руководителей — главе отдела маркетинга в США.

Во время презентации робот Cloi, созданный для управления умным домом, должен был продемонстрировать, как новые технологии искусственного интеллекта могут улучшить использование кухонной техники.

Сначала все шло по запланированному сценарию. Но в итоге, увы, вместо фурора Cloi вызвал насмешки. Не помогли даже шутки менеджера, проводившего презентацию. Робот проигнорировал три команды подряд. А точнее — просьбы узнать, закончился ли цикл стирки, что запланировано на ужин и какие рецепты курицы он может предложить

Это произошло на глазах журналистов, конкурентов и других зрителей. Сначала все рассмеялись, решив, что это просто сбой. После второй неудачной команды собравшиеся заподозрили системную ошибку. На третий раз воцарилась тишина, прервавшаяся обсуждением провала. В соцсетях же Cloi вовсе высмеяли.

Реклама, а не нарушение

Наиболее преуспел в цифровизации общественного пространства Китай. Системы искусственного интеллекта внедрены на улицах, в торговых центрах, метро. Но формальный подход подводит даже самые прогрессивные инструменты.

Фотография бизнес-леди Дун Минчжу, которая возглавляет крупнейшую в стране компанию по производству кондиционеров, на некоторое время появилась на билборде, с помощью которых обычно стыдят нарушителей Правил дорожного движения.

А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

Фото китайской предпринимательницы по ошибке появилось на билборде, с помощью которых стыдят нарушителей ПДД

В процессе разбирательства выяснилось, что система обнаружения заметила снимок предпринимательницы, который был размещен в рекламном изображении на автобусе. Почему-то искусственный интеллект решил, что Дун Минчжу пренебрегла ПДД.

Это подсветило проблему ошибочной интерпретации действий участников дорожного движения. Полиция заявила, что будет заниматься совершенствованием инструментов. Однако вряд ли в ближайшее время в полной мере это возможно.

Другие новости

Клад в Кярнаве только начало: археологи продолжат изучение уникального древнего кладбища

Клад в Кярнаве только начало: археологи продолжат изучение уникального древнего кладбища

Этим летом археологи Исторического факультета Вильнюсского университета продолжат исследования уникального кладбища и места, отмеченного находкой клада, в окрестностях Кярнаве. Исследования, проводимые с 1979 года, открыли новые аспекты древних погребальных обрядов и...

Эпидемия нарушений: исследование показало, что водители гоняют, как ненормальные

Эпидемия нарушений: исследование показало, что водители гоняют, как ненормальные

Недавнее исследование, проведенное по инициативе страховой компании ERGO, выявило, что 76% водителей в Литве превышают скорость, причем каждый второй из них уже получал штраф за это нарушение. Мужчины чаще нарушают скоростной режим, чем женщины, и в возрастных группах...

Европейское космическое агентство профинансировало литовские проекты

Европейское космическое агентство профинансировало литовские проекты

Благодаря поддержке Европейского космического агентства (ЕКА), продолжает развиваться литовский космический сектор. ЕКА одобрила финансирование восьми литовских проектов на сумму почти 1 миллион евро. Среди получателей финансирования — компании "Geomatrix",...

Самая высокая смотровая вышка в Литве отмечает юбилей спортивным вызовом

Самая высокая смотровая вышка в Литве отмечает юбилей спортивным вызовом

Смотровой вышке в курортном Бирштонасе исполняется пять лет, и в честь юбилея 12 июля пройдут уникальные соревнования по бегу на 300 ступеней башни. Открытая в 2019 году в региональном парке излучин Немана, она является самой высокой в Литве – высота составляет 55...

Правительство Литвы выделяет 1 млн евро на восстановление детской больницы в Киеве

Литовское правительство приняло решение выделить 1 миллион евро на восстановление детской больницы "Охматдет" в Киеве, которая серьезно пострадала во время массированной ракетной атаки России 8 июля. В результате нападения, затронувшего Киев, Днепр, Славянск, Кривой...

Вильнюс готовится к войне? Литва за неделю

Вильнюс готовится к войне? Литва за неделю

https://youtu.be/nk7sRKsqJaI?si=8CPjurvyACFAjlnI В этом выпуске: Защита столицы. В Вильнюсе представлен новый план оборонной политики: средства контрмобильности, трасса для дронов, планы эвакуации и новые убежища. Берегите детей. Опасности летних развлечений: травмы...

Посетите исторические усадьбы на День коронации короля Миндаугаса – не пожалеете! (календарь событий)

Посетите исторические усадьбы на День коронации короля Миндаугаса – не пожалеете! (календарь событий)

Литовская ассоциация замков и усадеб приглашает всех посетить исторические парки и сады в выходные с 5 по 7 июля, приуроченные к празднованию Дня коронации короля Миндаугаса. В различных замках и усадьбах пройдут разнообразные мероприятия, включая концерты, выставки,...

Батуты: коварное и травмоопасное детское развлечение

Батуты: коварное и травмоопасное детское развлечение

Министр внутренних дел Агне Билотайте недавно на своей странице в социальной сети Facebook поделилась личной бедой: развлечения её ребёнка на батуте закончилось серьёзными травмами, переломами и срочной операцией. Специалисты подтверждают – развлечения на батутах чаще...

Литва передала Украине квадроциклы

Литва передала Украине квадроциклы

Литовские экологические службы продолжают оказывать помощь Украине, направив в этот раз четыре квадроцикла с прицепами для охраны природных парков. Передача техники состоялась в рамках постоянного сотрудничества между странами. Квадроциклы предназначены для Ровенского...

Работать на курорте: главные новости регионов 3 июля

В Ниде открылось первое коворкинг-пространство Out of Office, в котором одновременно смогут работать около 60 человек Заплатив за день, неделю, месяц или даже за все лето, воспользоваться им смогут все отдыхающие, работающие на Куршской косе. Новое...

Как меняется общественный транспорт столицы: главные новости 2 июля

Как меняется общественный транспорт столицы: главные новости 2 июля

Компания LTG Link вводит третий класс на маршруте Вильнюс-Клайпеда-Вильнюс Билет в третьем классе стоит всего 13,60 евро – это на треть меньше, чем во втором. Билеты в третий класс начнут действовать с 15 июля, а купить их можно с 1 июля. Об этом пишет ru.Delfi.lt...

Цена та же, вес меньше – как обманывают в магазинах: Литва за неделю

Цена та же, вес меньше – как обманывают в магазинах: Литва за неделю

https://youtu.be/WgCYoiAvYqM?si=Vo8GBn7T_KcZAC-R В этом выпуске: Минималку повысят. Дебаты о повышении минимальной заработной платы в 2025 году: требования профсоюзов и бизнеса, возможные последствия и прогнозы экономистов. В стране продолжаются активные дебаты по...

В литовских поездах появится 3-й класс: билеты будут на 30% дешевле

В литовских поездах появится 3-й класс: билеты будут на 30% дешевле

Компания LTG Link вводит 3-й класс на маршруте Вильнюс-Клайпеда-Вильнюс. Билет в 3-м классе стоит всего 13,60 евро – это на треть меньше, чем во втором. Билеты в третий класс начнут действовать с 15 июля, а купить их можно с 1 июля. Материал подготовлен...

В Висагинасе открылся регулярный автобусный маршрут в промышленную зону (Висагинас – дер. Макараво)

«Как мы и обещали, новый маршрут будет доступен для работников промышленной зоны в Висагинасе и для всех желающих. Мы хотели выполнить это пожелание как можно скорее и очень рады, что процедура закупки услуг перевозчика наконец-то завершилась», – сказал Эрландас...

Литва, Латвия и Эстония призвали ЕС укреплять границы с Россией и Беларусью

Литва, Латвия и Эстония призвали ЕС укреплять границы с Россией и Беларусью

Лидеры Литвы, Эстонии, Латвии и Польши призвали Европейский Союз усилить защиту границ с Россией и Беларусью. В письме, направленном председателю Европейской комиссии Урсуле фон дер Ляйен и председателю Европейского совета Шарлю Мишелю, главы государств выразили...

Президенты Литвы и Украины подписали стратегическое соглашение: стало известно, сколько средств власти переведут Киеву

Президенты Литвы и Украины подписали стратегическое соглашение: стало известно, сколько средств власти переведут Киеву

В Брюсселе 27 июня президенты Литвы и Украины, Гитанас Науседа и Владимир Зеленский, подписали двустороннее соглашение о сотрудничестве в сфере безопасности. Этот документ предусматривает регулярные стратегические и политические диалоги, поддержку Литвой Украины в...

Объявлено, сколько заработали члены правительства Литвы

Объявлено, сколько заработали члены правительства Литвы

Государственная налоговая инспекция Литвы опубликовала данные о доходах министров за 2023 год, выявив самых состоятельных членов правительства. Лидером по количеству задекларированного имущества стал министр энергетики Дайнюс Крейвис, чьи активы составили 925 452...

Супруга главы МИД Ландсбергиса – самая богатая женщина среди лиц, связанных с политиками

Супруга главы МИД Ландсбергиса – самая богатая женщина среди лиц, связанных с политиками

Литовская предпринимательница Аустея Ландсбергене стала самой богатой женщиной в стране, связанной с политиками, значительно опередив своего супруга, министра иностранных дел Габриэлюса Ландсбергиса. По данным Государственной налоговой инспекции, её активы в 2023 году...

Взял больничный, уехал в отпуск, похвастался в соцсетях? Могут признать мошенником и наказать!

Взял больничный, уехал в отпуск, похвастался в соцсетях? Могут признать мошенником и наказать!

В Литве продолжают расти случаи мошенничества с больничными листами, и "Содра" активно работает над их выявлением. В 2023 году было получено около 500 сообщений о подозрениях на ложные больничные, что на 20% больше по сравнению с предыдущим годом. Особенно много таких...

«Минималка» свыше 1 тыс. евро реальна уже в следующем году

«Минималка» свыше 1 тыс. евро реальна уже в следующем году

В Литве продолжаются активные дебаты по вопросу повышения минимальной заработной платы в 2025 году. Представители бизнеса и профсоюзы не смогли прийти к единому мнению относительно размера повышения. Профсоюзы требуют увеличения минимальной зарплаты на 16%, что довело...

Клад в Кярнаве только начало: археологи продолжат изучение уникального древнего кладбища

Клад в Кярнаве только начало: археологи продолжат изучение уникального древнего кладбища

Этим летом археологи Исторического факультета Вильнюсского университета продолжат исследования уникального кладбища и места, отмеченного находкой клада, в окрестностях Кярнаве. Исследования, проводимые с 1979 года, открыли новые аспекты древних погребальных обрядов и...

Эпидемия нарушений: исследование показало, что водители гоняют, как ненормальные

Эпидемия нарушений: исследование показало, что водители гоняют, как ненормальные

Недавнее исследование, проведенное по инициативе страховой компании ERGO, выявило, что 76% водителей в Литве превышают скорость, причем каждый второй из них уже получал штраф за это нарушение. Мужчины чаще нарушают скоростной режим, чем женщины, и в возрастных группах...

Европейское космическое агентство профинансировало литовские проекты

Европейское космическое агентство профинансировало литовские проекты

Благодаря поддержке Европейского космического агентства (ЕКА), продолжает развиваться литовский космический сектор. ЕКА одобрила финансирование восьми литовских проектов на сумму почти 1 миллион евро. Среди получателей финансирования — компании "Geomatrix",...

Самая высокая смотровая вышка в Литве отмечает юбилей спортивным вызовом

Самая высокая смотровая вышка в Литве отмечает юбилей спортивным вызовом

Смотровой вышке в курортном Бирштонасе исполняется пять лет, и в честь юбилея 12 июля пройдут уникальные соревнования по бегу на 300 ступеней башни. Открытая в 2019 году в региональном парке излучин Немана, она является самой высокой в Литве – высота составляет 55...

Правительство Литвы выделяет 1 млн евро на восстановление детской больницы в Киеве

Литовское правительство приняло решение выделить 1 миллион евро на восстановление детской больницы "Охматдет" в Киеве, которая серьезно пострадала во время массированной ракетной атаки России 8 июля. В результате нападения, затронувшего Киев, Днепр, Славянск, Кривой...

Вильнюс готовится к войне? Литва за неделю

Вильнюс готовится к войне? Литва за неделю

https://youtu.be/nk7sRKsqJaI?si=8CPjurvyACFAjlnI В этом выпуске: Защита столицы. В Вильнюсе представлен новый план оборонной политики: средства контрмобильности, трасса для дронов, планы эвакуации и новые убежища. Берегите детей. Опасности летних развлечений: травмы...

Посетите исторические усадьбы на День коронации короля Миндаугаса – не пожалеете! (календарь событий)

Посетите исторические усадьбы на День коронации короля Миндаугаса – не пожалеете! (календарь событий)

Литовская ассоциация замков и усадеб приглашает всех посетить исторические парки и сады в выходные с 5 по 7 июля, приуроченные к празднованию Дня коронации короля Миндаугаса. В различных замках и усадьбах пройдут разнообразные мероприятия, включая концерты, выставки,...

Батуты: коварное и травмоопасное детское развлечение

Батуты: коварное и травмоопасное детское развлечение

Министр внутренних дел Агне Билотайте недавно на своей странице в социальной сети Facebook поделилась личной бедой: развлечения её ребёнка на батуте закончилось серьёзными травмами, переломами и срочной операцией. Специалисты подтверждают – развлечения на батутах чаще...

Литва передала Украине квадроциклы

Литва передала Украине квадроциклы

Литовские экологические службы продолжают оказывать помощь Украине, направив в этот раз четыре квадроцикла с прицепами для охраны природных парков. Передача техники состоялась в рамках постоянного сотрудничества между странами. Квадроциклы предназначены для Ровенского...

Работать на курорте: главные новости регионов 3 июля

В Ниде открылось первое коворкинг-пространство Out of Office, в котором одновременно смогут работать около 60 человек Заплатив за день, неделю, месяц или даже за все лето, воспользоваться им смогут все отдыхающие, работающие на Куршской косе. Новое...

Интересная хроника

Европейское космическое агентство профинансировало литовские проекты

Благодаря поддержке Европейского космического агентства (ЕКА), продолжает развиваться литовский космический сектор. ЕКА одобрила финансирование восьми литовских проектов на сумму почти 1 миллион евро. Среди получателей финансирования — компании "Geomatrix",...

Взял больничный, уехал в отпуск, похвастался в соцсетях? Могут признать мошенником и наказать!

В Литве продолжают расти случаи мошенничества с больничными листами, и "Содра" активно работает над их выявлением. В 2023 году было получено около 500 сообщений о подозрениях на ложные больничные, что на 20% больше по сравнению с предыдущим годом. Особенно много таких...

В Литве с жестокостью детей в школах хотят бороться с помощью анонимных опросов

Эксперты и политики в Литве выражают озабоченность по поводу распространенности буллинга в школах и призывают муниципалитеты уделить этому вопросу больше внимания, пишет портал lrytas.lt. Согласно данным Всемирной организации здравоохранения, с буллингом сталкивается...

В «Культурной столице Литвы-2024» – самый длинный стол с куриными блюдами

Пока в Вильнюсе продолжают греметь отголоски шумного фестиваля холодняка, когда был установлен рекорд самого длинного стола и самого большого числа людей, одновременно наслаждавшихся этим летним прекрасным супом, в «Культурной столице Литвы 2024» - Кайшядорисе – был...

За службу в армии после школы предлагается добавлять баллы при поступлении в университеты

Служба в Вооруженных силах Литвы после окончания школы даст более высокий балл при поступлении в университет или колледж. По мнению члена комитета Сейма по образованию и науке Эдиты Руделене, принятие такого государственного стимула сделает службу в армии более...

1 июня начинается прием документов в высшие учебные заведения Литвы. Что важно знать абитуриентам

1 июня начинается общий прием в высшие учебные заведения Литвы. Абитуриентов будут ждать 11 государственных и 5 негосударственных университетов, 12 государственных и 6 негосударственных коллегий. На финансируемые государством места планируется принять...

Почему провалился референдум о двойном гражданстве?

Продолжаем подводить итоги прошедшего дня голосования. Что касается референдума о двойном гражданстве, который провалился, то как и со школами, эта история про сегрегацию и разделение людей на сорта. Главной претензией к этому референдуму была часть про те самые...

В чём разница между Г. Науседой и И. Шимоните?

Второй тур президентских выборов состоится через две недели, 26 мая. И рассказывать о программах кандидатов в этот раз нет особого смысла. Гитанас Науседа и Ингрида Шимоните всем хорошо известны. Оба выступают за увеличения расходов на оборонные нужды, оба – за...

Что надо сделать, чтобы увидеть северное сияние над Литвой в ночь на воскресенье

Прошедшая ночь действительно была впечатляющей. Можно только посочувствовать тем, кто проспал такое событие. Вопрос в том, повторится ли в ближайшем будущем такое же количество цветных вспышек, как вчера после 23 часов вечера и часа ночи. Почти все, кто наблюдал за...

Социология утверждает: безработица растёт, но жители Литвы – неисправимые оптимисты

Сотрудники самого посещаемого портала по трудоустройству в Литве CVbankas.lt представили последний обзор рынка труда за первый квартал этого года. Несмотря на небольшое увеличение уровня безработицы, он назван стабильным и с позитивными настроениями. При этом...

Интересные новости

Клад в Кярнаве только начало: археологи продолжат изучение уникального древнего кладбища

Клад в Кярнаве только начало: археологи продолжат изучение уникального древнего кладбища

Этим летом археологи Исторического факультета Вильнюсского университета продолжат исследования уникального кладбища и места, отмеченного находкой клада, в окрестностях Кярнаве. Исследования, проводимые с 1979 года, открыли новые аспекты древних погребальных обрядов и...

Самая высокая смотровая вышка в Литве отмечает юбилей спортивным вызовом

Самая высокая смотровая вышка в Литве отмечает юбилей спортивным вызовом

Смотровой вышке в курортном Бирштонасе исполняется пять лет, и в честь юбилея 12 июля пройдут уникальные соревнования по бегу на 300 ступеней башни. Открытая в 2019 году в региональном парке излучин Немана, она является самой высокой в Литве – высота составляет 55...

Посетите исторические усадьбы на День коронации короля Миндаугаса – не пожалеете! (календарь событий)

Посетите исторические усадьбы на День коронации короля Миндаугаса – не пожалеете! (календарь событий)

Литовская ассоциация замков и усадеб приглашает всех посетить исторические парки и сады в выходные с 5 по 7 июля, приуроченные к празднованию Дня коронации короля Миндаугаса. В различных замках и усадьбах пройдут разнообразные мероприятия, включая концерты, выставки,...

Президенты Литвы и Украины подписали стратегическое соглашение: стало известно, сколько средств власти переведут Киеву

Президенты Литвы и Украины подписали стратегическое соглашение: стало известно, сколько средств власти переведут Киеву

В Брюсселе 27 июня президенты Литвы и Украины, Гитанас Науседа и Владимир Зеленский, подписали двустороннее соглашение о сотрудничестве в сфере безопасности. Этот документ предусматривает регулярные стратегические и политические диалоги, поддержку Литвой Украины в...

Литва будет вынуждена повысить пенсионный возраст или нас спасёт искусственный интеллект?

Литва будет вынуждена повысить пенсионный возраст или нас спасёт искусственный интеллект?

В июне в Литве работала миссия Международного валютного фонда (МВФ), которая сосредоточила внимание на проблемах пенсионного обеспечения, связанных со стареющим населением страны. Экономист Теодорас Медаискис отметил, что значительная часть населения не откладывает...