А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

2023-10-16 | Хроника Общество

Автор Илья Стрижевич 

RADIO•R в Telegram. Подпишись и читай новости из Литвы прямо сейчас

Сейчас много говорят о значении искусственного интеллекта (ИИ) для автоматизации рутинных процессов. Есть опасения, что этот инструмент заменит человека. Однако пока роль машинного обучения преувеличена, о чем говорят обидные ошибки всевозможных чат-ботов и роботов. В подборке RadioR — наиболее яркие фейлы ИИ.

Землетрясение, которого не было

Жители Санта-Барбара (город в Калифорнии, не путать с сериалом) всерьез испугались, когда увидели сообщение Los Angeles Times о том, что произошло довольно сильное землетрясение.

Оказалось, что тревога ложная. А автором, разместившим тревожное сообщение, был робот Quakebot, который собирает данные с сайта Геологической службы США.

В действительности в сообщении речь шла о землетрясении магнитудой 6,8 балла, случившемся в 1925 году. Тогда погибли 13 человек, был нанесен ущерб на сумму более чем в 8 миллионов долларов.

А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

Калифорния не раз переживала землетрясения

А произошло следующее. Сотрудник Геологической службы США по ошибке разослал предупреждение при обновлении исторических данных о землетрясениях, чтобы сделать их более точными. Однако робот воспринял это как достоверную информацию, не подвергая критическому осмыслению.

Изданию пришлось удалять информацию и размещать уведомление. Можно себе представить, к каким последствиям могла бы привести новость, если бы ее оперативно не опровергли.

Хотя эта история произошла в 2017 году, она довольно характерная. Именно верификация данных — по-прежнему слабое место искусственного интеллекта.

Постой, но это же не мяч!

Во время пандемии, когда проведение массовых мероприятий проводилось без зрителей и число задействованного персонала стремились уменьшить, шотландский футбольный клуб решил использовать автоматическую камеру для записи матча.

Получилось не очень. Камера была нацелена на мяч, но внезапно стала «следить» за лысиной линейного арбитра. В результате зрителям пришлось наблюдать за действиями лайнсмена, а не за игрой. Случай забавный и одновременно демонстрирующий недостатки ИИ.

Рекрутер машинного обучения оказался сексистом…

Несмотря на то что многие компании скрывают использование элементов машинного обучения, информация об этом все же просачивается. И не всегда в позитивном ключе.

Так, в 2018 году журналисты узнали, что Amazon проводил эксперимент, используя искусственный интеллект при подборе персонала. Инструмент оказался неидеальным. Он использовал чересчур формальный подход, в частности, дискриминируя женщин.

Выяснилось, что компьютерные модели анализировали резюме, которые были поданы за предыдущие десять лет. Так уж сложилось, что большинство из них поступило от мужчин. В результате система пришла к выводу, что кандидаты-мужчины предпочтительнее, а женщины получали меньше баллов, даже если у них было хорошее образование.

Amazon предпринял попытку сделать инструмент машинного обучения гендерно-нейтральным. Однако в итоге компании пришлось распустить команду, работавшую над «умным» рекрутером.

…а чат-бот в Twitter — расистом

Но Amazon был не единственной большой корпорацией, попавшей в подобный скандал. В 2016 году чат-бот Microsoft с искусственным интеллектом пришлось закрыть через несколько часов после запуска в Twitter. Причина — расистские комментарии.

Это детище искусственного интеллекта было ориентировано на молодежь (от 18 до 24 лет). Его помощниками в развитии, по планам разработчиков, должны были стать собеседники. Увы, те оказались не лучшими наставниками и стали заниматься банальным троллингом.

А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

Через 16 часов после запуска чат-бот пришлось деактивировать

Чем дальше заходила беседа, тем больше расистских высказываний допускал чат-бот. К примеру, в ответ одному из пользователей соцсети он заявил: «Буш совершил 11 сентября, и Гитлер справился бы с этой задачей лучше, чем обезьяна, которая есть у нас сейчас. Дональд Трамп — единственная надежда, которая у нас есть».

Через 16 часов после запуска чат-бот затих, его сообщения удалили и он канул в Лету. Этический аспект и неспособность учитывать полноту контекста также считаются минусами искусственного интеллекта, на чем ловко подловили разработчиков критично настроенные пользователи Twitter.

«Cloi, что запланировано на ужин?» — «…»

Провал еще у одного гиганта — компании LG — случился в 2018 году на знаменитой выставке в Лас-Вегасе CES. Причем краснеть за неудачу пришлось одному из руководителей — главе отдела маркетинга в США.

Во время презентации робот Cloi, созданный для управления умным домом, должен был продемонстрировать, как новые технологии искусственного интеллекта могут улучшить использование кухонной техники.

Сначала все шло по запланированному сценарию. Но в итоге, увы, вместо фурора Cloi вызвал насмешки. Не помогли даже шутки менеджера, проводившего презентацию. Робот проигнорировал три команды подряд. А точнее — просьбы узнать, закончился ли цикл стирки, что запланировано на ужин и какие рецепты курицы он может предложить

Это произошло на глазах журналистов, конкурентов и других зрителей. Сначала все рассмеялись, решив, что это просто сбой. После второй неудачной команды собравшиеся заподозрили системную ошибку. На третий раз воцарилась тишина, прервавшаяся обсуждением провала. В соцсетях же Cloi вовсе высмеяли.

Реклама, а не нарушение

Наиболее преуспел в цифровизации общественного пространства Китай. Системы искусственного интеллекта внедрены на улицах, в торговых центрах, метро. Но формальный подход подводит даже самые прогрессивные инструменты.

Фотография бизнес-леди Дун Минчжу, которая возглавляет крупнейшую в стране компанию по производству кондиционеров, на некоторое время появилась на билборде, с помощью которых обычно стыдят нарушителей Правил дорожного движения.

А ведь он не так умен, как кажется! Шесть громких фейлов искусственного интеллекта

Фото китайской предпринимательницы по ошибке появилось на билборде, с помощью которых стыдят нарушителей ПДД

В процессе разбирательства выяснилось, что система обнаружения заметила снимок предпринимательницы, который был размещен в рекламном изображении на автобусе. Почему-то искусственный интеллект решил, что Дун Минчжу пренебрегла ПДД.

Это подсветило проблему ошибочной интерпретации действий участников дорожного движения. Полиция заявила, что будет заниматься совершенствованием инструментов. Однако вряд ли в ближайшее время в полной мере это возможно.

Другие новости

Литва оборвала последнюю связь с Россией: Литва за неделю

Литва оборвала последнюю связь с Россией: Литва за неделю

https://youtu.be/92q805divzM?si=4YUVmLpes8gJK5Oj Коротко, ясно и честно о главных событиях в Литве за минувшую неделю. Пожалуй, единственный в своём роде такой обзор. Если вам понравился наш обзор событий, поставьте «лайк», поделитесь этим видео или прокомментируйте....

Главные новости за день | 07.02.2025

Главные новости за день | 07.02.2025

В марте в Паневежисе, Йонишкисском и Йонавском районах пройдут досрочные выборы мэров Главная избирательная комиссия зарегистрировала кандидатов в этих самоуправлениях. Всего их 14. Жителям Йонишкисского района 16 марта предстоит избрать нового мэра,...

Главные новости за день | 06.02.2025

Главные новости за день | 06.02.2025

С 1 февраля 2025 года в Кретингском районе вводится специальный превентивный сбор за вывоз и утилизацию бытовых отходов для тех жителей, которые ложно утверждают, что их жилье не заселено Таким лицам придется ежемесячно платить более 17 евро. Если...

Главные новости за день | 05.02.2025

Главные новости за день | 05.02.2025

В Шальчининкском районе, в деревне Пашальтис, пограничники обнаружили 25-метровый туннель контрабандистов в направлении Беларуси Министр внутренних дел Владислав Кондратович заявил, что Служба охраны государственной границы (VSAT) будет искать подобные...

Главные новости за день | 04.02.2025

Главные новости за день | 04.02.2025

С 1 февраля самоуправление Каунасского района повысило плату за питание детей в дошкольных учреждениях, чтобы соответствовать новым требованиям и обеспечить полноценное питание Родители будут платить на 0,40 евро больше в ясельных группах и на 0,60 евро...

Главные новости за день | 03.02.2025

Главные новости за день | 03.02.2025

В феврале тариф на централизованное отопление для жителей Клайпеды и Гаргждай, по сравнению с январем, вырастет на 4,59%, сообщает Klaipėdos energija Компания убеждает, что размер тарифа такой же, как и в феврале прошлого года. В последний месяц зимы тепло...

Демографическая ситуация – это уже катастрофа: Литва за неделю

Демографическая ситуация – это уже катастрофа: Литва за неделю

https://youtu.be/NEePmIAU0u8?si=69QWbjMl4185qAIf Коротко, ясно и честно о главных событиях в Литве за минувшую неделю. Пожалуй, единственный в своём роде такой обзор. Если вам понравился наш обзор событий, поставьте «лайк», поделитесь этим видео или прокомментируйте....

Главные новости за день | 03.02.2025

Главные новости за день | 03.02.2025

В феврале тариф на централизованное отопление для жителей Клайпеды и Гаргждай, по сравнению с январем, вырастет на 4,59%, сообщает Klaipėdos energija Компания убеждает, что размер тарифа такой же, как и в феврале прошлого года. В последний месяц зимы тепло...

На птицефабрике Vilkyčiai из-за птичьего гриппа погибли тысячи кур

На птицефабрике Vilkyčiai из-за птичьего гриппа погибли тысячи кур

На птицефабрике Vilkyčiai, принадлежащей группе Groward Group, вспыхнула вспышка птичьего гриппа, из-за чего погибли тысячи кур. В связи с этим Шилутское районное самоуправление объявило локальную чрезвычайную ситуацию в радиусе 3 км на две недели. По...

Каунасский городской симфонический оркестр отмечает свое 20-летие

Каунасский городской симфонический оркестр отмечает свое 20-летие

8 февраля Каунасский городской симфонический оркестр отметит 20-летие праздничным концертом в Каунасской филармонии. На сцене выступят бывшие и нынешний главные дирижеры оркестра – Павел Берман, Имантс Реснис, Модестас Питренас и четырехкратный номинант...

Главные новости за день | 31.01.2025

Главные новости за день | 31.01.2025

На птицефабрике Vilkyčiai, принадлежащей группе Groward Group, вспыхнула вспышка птичьего гриппа, из-за чего погибли тысячи кур В связи с этим Шилутское районное самоуправление объявило локальную чрезвычайную ситуацию в радиусе 3 км на две недели. По...

Фестиваль света Paslаpčių miškas в Литовском этнографическом музее продлевается до 23 февраля

Фестиваль света Paslаpčių miškas в Литовском этнографическом музее продлевается до 23 февраля

Из-за огромного интереса посетителей крупнейший в Литве фестиваль света Paslаpčių miškas, который проходит в Литовском этнографическом музее в Румшишкесе, продлевается до 23 февраля. Фестиваль, который проходит на территории музея, приглашает посетителей...

Фасад одной из школ Висагинаса превратился в уличную галерею

Фасад одной из школ Висагинаса превратился в уличную галерею

В Висагинасе фасад бывшей 4-й средней школы превратили в уличную галерею: творческий коллектив Центра культуры украсил окна здания фотографиями и рисунками. Идея возникла в 2022 году, когда художница Неринга Рекашюте разместила свои работы на одном из...

Перевозка велосипедов в автобусах без специальных креплений не разрешена

Перевозка велосипедов в автобусах без специальных креплений не разрешена

Правительство отклонило предложение изменить правила перевозки велосипедов в междугородных автобусах, позволяя размещать их в салоне или багажном отделении без обязательной фиксации. Комиссия по петициям указала, что перевозка велосипедов в салоне без...

Главные новости за день | 30.01.2025

Главные новости за день | 30.01.2025

Литовские пограничники обнаружили вблизи границы с Беларусью подземный тоннель длиной около 25 метров, который, возможно, использовался для переправки контрабанды Тоннель был обнаружен недалеко от деревни Пашальтис. Советник Государственной пограничной...

Единственное спасение? Мечты? Или пыль в глаза?

Единственное спасение? Мечты? Или пыль в глаза?

https://youtu.be/AS51NKwf1v4?si=M_vzpUWJR8bexNaU Коротко, ясно и честно о главных событиях в Литве за минувшую неделю. Пожалуй, единственный в своём роде такой обзор. Если вам понравился наш обзор событий, поставьте «лайк», поделитесь этим видео или прокомментируйте....

Министерство регионов может начать свою работу 1 июля 2026 года

Министерство регионов может начать свою работу 1 июля 2026 года

Премьер-министр Гинтаутас Палуцкас сообщил, что деятельность Министерства регионов может начаться 1 июля 2026 года До этого времени будут подготовлены необходимые законодательные акты, а на реализацию изменений планируется выделить полгода. Новая структура будет...

Проект по адаптации реки Нерис для судоходства пока откладывается

Проект по адаптации реки Нерис для судоходства пока откладывается

Министр транспорта Эугениюс Сабутис заявил, что в этом году проект по адаптации реки Нерис для судоходства реализован не будет из-за отсутствия дополнительных средствПо его словам, перед началом работ необходимо провести общественные обсуждения. План включает очистку...

Главные новости за день | 29.01.2025

Главные новости за день | 29.01.2025

Партия «Избирательная акция поляков Литвы – Союз христианских семей» (LLRA-KŠS) обвиняет команду мэра Вильнюсского района Роберта Духневича в непотизме и моббинге Депутат Ярослав Наркевич заявил, что получает многочисленные жалобы от работников...

В Каунасе – новая скульптура из гранита и бронзы Saulės laivas («Солнечный корабль»)

В Каунасе – новая скульптура из гранита и бронзы Saulės laivas («Солнечный корабль»)

На берегу Нямунаса, рядом с парком Santakos в Каунасе, установлена новая скульптура из гранита и бронзы Saulės laivas («Солнечный корабль») работы Дарюса Аугулиса. Она символизирует историческую связь города с судоходством. Скульптура выполнена в форме лодки...

Литва оборвала последнюю связь с Россией: Литва за неделю

Литва оборвала последнюю связь с Россией: Литва за неделю

https://youtu.be/92q805divzM?si=4YUVmLpes8gJK5Oj Коротко, ясно и честно о главных событиях в Литве за минувшую неделю. Пожалуй, единственный в своём роде такой обзор. Если вам понравился наш обзор событий, поставьте «лайк», поделитесь этим видео или прокомментируйте....

Главные новости за день | 07.02.2025

Главные новости за день | 07.02.2025

В марте в Паневежисе, Йонишкисском и Йонавском районах пройдут досрочные выборы мэров Главная избирательная комиссия зарегистрировала кандидатов в этих самоуправлениях. Всего их 14. Жителям Йонишкисского района 16 марта предстоит избрать нового мэра,...

Главные новости за день | 06.02.2025

Главные новости за день | 06.02.2025

С 1 февраля 2025 года в Кретингском районе вводится специальный превентивный сбор за вывоз и утилизацию бытовых отходов для тех жителей, которые ложно утверждают, что их жилье не заселено Таким лицам придется ежемесячно платить более 17 евро. Если...

Главные новости за день | 05.02.2025

Главные новости за день | 05.02.2025

В Шальчининкском районе, в деревне Пашальтис, пограничники обнаружили 25-метровый туннель контрабандистов в направлении Беларуси Министр внутренних дел Владислав Кондратович заявил, что Служба охраны государственной границы (VSAT) будет искать подобные...

Главные новости за день | 04.02.2025

Главные новости за день | 04.02.2025

С 1 февраля самоуправление Каунасского района повысило плату за питание детей в дошкольных учреждениях, чтобы соответствовать новым требованиям и обеспечить полноценное питание Родители будут платить на 0,40 евро больше в ясельных группах и на 0,60 евро...

Главные новости за день | 03.02.2025

Главные новости за день | 03.02.2025

В феврале тариф на централизованное отопление для жителей Клайпеды и Гаргждай, по сравнению с январем, вырастет на 4,59%, сообщает Klaipėdos energija Компания убеждает, что размер тарифа такой же, как и в феврале прошлого года. В последний месяц зимы тепло...

Демографическая ситуация – это уже катастрофа: Литва за неделю

Демографическая ситуация – это уже катастрофа: Литва за неделю

https://youtu.be/NEePmIAU0u8?si=69QWbjMl4185qAIf Коротко, ясно и честно о главных событиях в Литве за минувшую неделю. Пожалуй, единственный в своём роде такой обзор. Если вам понравился наш обзор событий, поставьте «лайк», поделитесь этим видео или прокомментируйте....

Главные новости за день | 03.02.2025

Главные новости за день | 03.02.2025

В феврале тариф на централизованное отопление для жителей Клайпеды и Гаргждай, по сравнению с январем, вырастет на 4,59%, сообщает Klaipėdos energija Компания убеждает, что размер тарифа такой же, как и в феврале прошлого года. В последний месяц зимы тепло...

На птицефабрике Vilkyčiai из-за птичьего гриппа погибли тысячи кур

На птицефабрике Vilkyčiai из-за птичьего гриппа погибли тысячи кур

На птицефабрике Vilkyčiai, принадлежащей группе Groward Group, вспыхнула вспышка птичьего гриппа, из-за чего погибли тысячи кур. В связи с этим Шилутское районное самоуправление объявило локальную чрезвычайную ситуацию в радиусе 3 км на две недели. По...

Каунасский городской симфонический оркестр отмечает свое 20-летие

Каунасский городской симфонический оркестр отмечает свое 20-летие

8 февраля Каунасский городской симфонический оркестр отметит 20-летие праздничным концертом в Каунасской филармонии. На сцене выступят бывшие и нынешний главные дирижеры оркестра – Павел Берман, Имантс Реснис, Модестас Питренас и четырехкратный номинант...

Интересная хроника

Главные новости за день | 07.02.2025

В марте в Паневежисе, Йонишкисском и Йонавском районах пройдут досрочные выборы мэров Главная избирательная комиссия зарегистрировала кандидатов в этих самоуправлениях. Всего их 14. Жителям Йонишкисского района 16 марта предстоит избрать нового мэра,...

Главные новости за день | 06.02.2025

С 1 февраля 2025 года в Кретингском районе вводится специальный превентивный сбор за вывоз и утилизацию бытовых отходов для тех жителей, которые ложно утверждают, что их жилье не заселено Таким лицам придется ежемесячно платить более 17 евро. Если...

Главные новости за день | 05.02.2025

В Шальчининкском районе, в деревне Пашальтис, пограничники обнаружили 25-метровый туннель контрабандистов в направлении Беларуси Министр внутренних дел Владислав Кондратович заявил, что Служба охраны государственной границы (VSAT) будет искать подобные...

Главные новости за день | 04.02.2025

С 1 февраля самоуправление Каунасского района повысило плату за питание детей в дошкольных учреждениях, чтобы соответствовать новым требованиям и обеспечить полноценное питание Родители будут платить на 0,40 евро больше в ясельных группах и на 0,60 евро...

Главные новости за день | 03.02.2025

В феврале тариф на централизованное отопление для жителей Клайпеды и Гаргждай, по сравнению с январем, вырастет на 4,59%, сообщает Klaipėdos energija Компания убеждает, что размер тарифа такой же, как и в феврале прошлого года. В последний месяц зимы тепло...

Главные новости за день | 03.02.2025

В феврале тариф на централизованное отопление для жителей Клайпеды и Гаргждай, по сравнению с январем, вырастет на 4,59%, сообщает Klaipėdos energija Компания убеждает, что размер тарифа такой же, как и в феврале прошлого года. В последний месяц зимы тепло...

Главные новости за день | 31.01.2025

На птицефабрике Vilkyčiai, принадлежащей группе Groward Group, вспыхнула вспышка птичьего гриппа, из-за чего погибли тысячи кур В связи с этим Шилутское районное самоуправление объявило локальную чрезвычайную ситуацию в радиусе 3 км на две недели. По...

Главные новости за день | 30.01.2025

Литовские пограничники обнаружили вблизи границы с Беларусью подземный тоннель длиной около 25 метров, который, возможно, использовался для переправки контрабанды Тоннель был обнаружен недалеко от деревни Пашальтис. Советник Государственной пограничной...

Главные новости за день | 29.01.2025

Партия «Избирательная акция поляков Литвы – Союз христианских семей» (LLRA-KŠS) обвиняет команду мэра Вильнюсского района Роберта Духневича в непотизме и моббинге Депутат Ярослав Наркевич заявил, что получает многочисленные жалобы от работников...

Главные новости за день | 28.01.2025

В Паневежисе закончились места в колумбарии на кладбище Шилайчяй, а строительство нового еще не начато Местные власти предлагают временно хранить урны с прахом дома или захоронить их в специальных маленьких участках на кладбище, однако жители относятся к...

Интересные новости

Список мест, куда можно сдать после праздников рождественскую елочку

Список мест, куда можно сдать после праздников рождественскую елочку

По всей Литве работают пункты сбора рождественских елочек. Где-то елочку надо успеть сдать в установленные самоуправлением несколько дней, где-то — в течение месяца. Ниже вы найдете список специальных площадок  по сбору елок в разных городах страны. Где...

Мэр Роберт Духневич — о проблемах и радостях Вильнюсского района, о вызовах 24-го и задачах 25-го года, о стадионах, Министерстве регионов и подарках под елкой

Мэр Роберт Духневич — о проблемах и радостях Вильнюсского района, о вызовах 24-го и задачах 25-го года, о стадионах, Министерстве регионов и подарках под елкой

https://youtu.be/qT7MTfJk96s? Программный директор RADIO•R  Эрнест Алесин и мэр Вильнюсского района Роберт Духневич сегодня встретились, чтобы обсудить, чем запомнился уходящий год, и чего ожидать от наступающего. — Конец года, время подводить...

Возмутители цифрового спокойствия: тролли, боты и «полезные идиоты»

Возмутители цифрового спокойствия: тролли, боты и «полезные идиоты»

Из года в год айсберг дезинформации в кибернетическом океане постоянно крупнеет. События последних нескольких лет – пандемия коронавируса и война в Украине – лишь накалили обстановку до предела. И хотя число «гуляющих» в социальных медиа дезинформационных нарративов –...

Пандемия обмана: как вас разденут догола прямо сейчас

Пандемия обмана: как вас разденут догола прямо сейчас

Литва сталкивается с волной интернет- и телефонного мошенничества, жертвы которого за этот год уже потеряли почти 13 миллионов евро. Это на 6 миллионов больше, чем за аналогичный период прошлого года. Новые методы обмана и быстрая адаптация преступников ставят под...

Эра дипфейков: как совершенствуются технологии обмана

Эра дипфейков: как совершенствуются технологии обмана

«Литва совместно с Европейским торговым банком запустила проект, цель которого – создать систему пассивного дохода, позволяющую каждому литовцу получать значительный ежедневный доход». Видеозапись с таким утверждением распространилась в интернете в начале этого года....