Алгоритмы против пользователей: на чьей стороне ИТ-гиганты?

Алгоритмы против пользователей: на чьей стороне ИТ-гиганты?

Используют ли онлайн-платформы один из самых мощных своих инструментов в ущерб собственным пользователям?

От рекомендаций в соцсетях до таргетинга рекламы – сегодня алгоритмы крупнейших онлайн-платформ управляют цифровой жизнью миллиардов людей, все настойчивее пытаясь влиять на их выбор. Как отмечает Financial Times, рекомендательные сервисы стали одним из самых широко используемых достижений "революции искусственного интеллекта". Однако смогут ли ИТ-гиганты остановиться в погоне за вниманием пользователей и коммерческой выгодой, и так ли безобидны рекламные алгоритмы на самом деле?

Кто на самом деле делает выбор?

Эксперты бьют тревогу – рекомендательные сервисы, построенные на машинном обучении, сделали ИТ-гигантов более могущественными, чем когда-либо прежде. Маркетинговые приемы, заставляющие людей совершать онлайн-покупки и проводить еще больше времени в социальных сетях, были известны уже давно, но искусственный интеллект помог бигтеху отточить свои рекламные алгоритмы практически до совершенства.

По мнению профессора Калифорнийского университета Стюарта Рассела, "алгоритмы выдачи и подбора контента в социальных сетях гарантированно манипулируют людьми". Кроме того, Рассел считает, что применение алгоритмов ведет к глубокой политической поляризации пользователей, а сами онлайн-платформы намеренно "разжигают гнев" пользователей ради увеличения активности на своих площадках.

При этом, Facebook открещивается от подобных обвинений, утверждая, что соцсеть не выигрывает от создания негативно настроенной аудитории. Однако Рассел уверен, что компания в первую очередь руководствуется получением прибыли, не считаясь с последствиями для обычных пользователей.

С этой позицией согласна и бывшая сотрудница Google Мередит Уиттакер, ранее консультировавшая Белый дом и Европарламент по вопросам искусственного интеллекта, интернет-политики и безопасности. "Вы никогда не увидите, чтобы ИТ-гиганты предпочитали этику доходам. Это компании, которые управляются акционерным капиталом", – заявила она.

Что выгодно, то и этично

Строжайшая секретность, в которой ИТ-гиганты хранят устройство своих алгоритмов, лишь обостряет критику бигтеха. И хотя онлайн-платформы уверяют общественность в своей преданности принципам этики и интересам пользователей, Financial Times отмечает, что проверить эти утверждения на практике невозможно. Вызывает сомнения экспертов и неизбежное противоречие моральных принципов финансовым задачам ИТ-бизнеса.

Непрозрачным использованием рекомендательных алгоритмов обеспокоены не только западные, но и российские эксперты. Так, еще в марте 2021 года московское отделение Ассоциации юристов России предложило подвергать независимому аудиту, а также отключать по желанию пользователей рекомендательные сервисы в соцсетях, новостных агрегаторах, онлайн-кинотеатрах и маркетплейсах.

«В перспективе нескольких лет можно получить стандартизированного человека с набором однотипных социальных установок и потребностей. Это звучит странно, но именно к этому ведёт бесконтрольное применение алгоритмов, — констатировал заместитель генерального директора по правовым вопросам АНО "Институт развития Интернета" Борис Едидин.


commnetКомментарии

Пожалуйста, войдите / зарегистрируйтесь
или авторизируйтесь через любую соц. сеть, чтобы оставить комментарий.


Похожие новости
Пионер искусственного интеллекта поделился своими опасениями 27 мая 2015 г.

Пионер искусственного интеллекта поделился своими опасениями

В январе британо-американский компьютерный ученый Стюарт Рассел стал первым, кто подписал открытое письмо, призывающее исследователей задуматься глубже о своем стремлении создавать искусственный интеллект мощнее и мощнее. «Мы рекомендуем проведение расширенных...

дальше...

Сбербанк предложил сервис по подбору тендеров на основе искусственного интеллекта 24 мая 2018 г.

Сбербанк предложил сервис по подбору тендеров на основе искусственного интеллекта

Сбербанк запустил в интернет-банке для бизнеса новый онлайн-сервис «Пульс рынка». Об этом на Петербургском международном экономическом форуме (ПМЭФ) объявил старший вице-президент ПАО Сбербанк, руководитель блока «Корпоративный бизнес» Анатолий Попов...

дальше...

На Mail.ru появится платный контент 13 янв. 2014 г.

На Mail.ru появится платный контент

На одном из крупнейших российских порталов Mail.ru впервые появится платный контент. В разделе Афиша@Mail.ru, посвященном искусству и развлечениям, можно будет смотреть сериалы за деньги. Об этом «Известиям» рассказали в кинокомпании «Амедиа», информацию...

дальше...

Искусственный интеллект: может ли машина быть разумной? 28 февр. 2014 г.

Искусственный интеллект: может ли машина быть разумной?

Как вы знаете, искусственный интеллект — это сфера науки, которая разрабатывает машины, компьютеры и аппаратное обеспечение с интеллектом, от простейшего до человекоподобного. Хотя концепция разумных машин зародилась еще в древнегреческой мифологии,...

дальше...

Евросоюз против бигтеха: за кем останется виртуальный рынок 19 апр. 2021 г.

Евросоюз против бигтеха: за кем останется виртуальный рынок

Европейские правила регулирования Интернет-пространства были сформулированы 20 лет назад, когда большинства онлайн-платформ еще попросту не существовало. Новые реалии цифровой эпохи и вызывающее поведение ИТ-гигантов подтолкнули Еврокомиссию обновить...

дальше...

Секретные эксперименты в сети: как нами манипулируют 17 авг. 2014 г.

Секретные эксперименты в сети: как нами манипулируют

Интернет-сайты используют всевозможные уловки для того, чтобы заставить нас "кликнуть", открыть какую-нибудь веб-страницу, а то и что-нибудь купить - причем даже не заметив этого. И, как обнаружил корреспондент Нажать BBC Future, способы, которые для...

дальше...

В поисках баланса: как власти и бигтех интернет регулируют 08 апр. 2021 г.

В поисках баланса: как власти и бигтех интернет регулируют

Сегодня ни у кого уже не вызывает сомнения, что Глобальная сеть нуждается в законах, разработанных непосредственно с учетом ее специфики. На это указывают как заявления первых лиц ведущих стран, так и собственные попытки ИТ-корпораций обзавестись принципами...

дальше...

Темная сторона эмоционального интеллекта 12 янв. 2014 г.

Темная сторона эмоционального интеллекта

Иногда хороший контакт с эмоциями полезен, иногда мешает, и его — подобно любому навыку — можно использовать как во благо, так и во зло.Эмоциональный интеллект лежал в основе некоторых величайших моментов в истории человечества. Когда Мартин Лютер Кинг-младший...

дальше...

Последние новости

Новости на сегодня 18 июня 2021 г.