Опасности нерегулируемого искусственного интеллекта
И
скусственный интеллект уже влияет практически на все сферы жизни. Однако пока его использование приносит обществу больше ущерба, чем обещанных выгод, - и проблема тут не в самой технологии, а в ее применении. Необходима политика, которая могла бы это изменить. ИИ, контроль информации и товарные рынки Во всех этих случаях главная проблема заключается не в технологиях ИИ как таковых, а в том, как к данным и их использованию подходят ведущие компании, которые оказывают огромное влияние на то, в каком направлении развиваются эти технологии. Прежде всего, фирмы, которые получают больше информации о своих клиентах, могут использовать ее для ценовой дискриминации, потенциально забирая себе все больше экономической ренты, которая в ином случае оставалась бы у потребителей. Сбор данных о потребителях также может ослаблять ценовую конкуренцию. На интуитивном уровне понятно, что при ценовой дискриминации со стороны фирмы, обладающей наиболее полной информацией о потребителях, ее ключевые клиенты могут стать менее привлекательными для других бизнесов, что способствует повышению последними цен. Такое давление на цены, конечно, будет и дальше наносить урон благосостоянию потребителей. Что еще хуже - компании могут использовать свое информационное преимущество с точки зрения знания о предпочтениях потребителя для того, чтобы манипулировать его поведением. ИИ и неравенство на рынке труда Негативные последствия автоматизации для неравенства были ощутимы еще до появления ИИ. Но применение ИИ и активное использование данных расширяют автоматизацию рынка труда и могут усилить тренд на рост неравенства. Другие формы использования ИИ могут иметь еще более серьезные негативные последствия. К ним относится применение алгоритмов и данных о сотрудниках с тем, чтобы усилить мониторинг их работы.
4
/4/2022
ИИ, общество и демократия Автоматизация на основе ИИ может иметь и другие негативные последствия. Хотя в ближайшем будущем этот процесс вряд ли приведет к массовой безработице, все же вытеснение живого труда несет в себе множество разрушительных последствий для общества. Граждане с низкой привязанностью к труду могут меньше участвовать в общественной и политической жизни. Но что еще важнее - автоматизация сдвигает баланс власти от труда к капиталу, и это может иметь далеко идущие последствия для демократических институтов. Иными словами, в той степени, в которой демократическая политика зависит от распределения сил между трудом и капиталом, уравновешивающими друг друга, автоматизация может вредить демократии, потому что нивелирует значение труда в процессе производства. Влияние ИИ на демократию не ограничивается автоматизацией. Среди сфер, которые ИИ изменил наиболее радикально, - коммуникации и потребление новостей, особенно через продукты и услуги, предлагаемые платформами различных социальных сетей. Использование ИИ и активный сбор данных пользователей уже изменили социальный дискурс и способствовали поляризации общества, разобщив его в понимании фактов и приоритетов, в то время как такая общность крайне важна для демократической политики. И действительно, социальные сети на базе ИИ, по-видимому, способствовали этому типу фрагментации и усилению экстремизма, с одной стороны, и распространению дезинформации - с другой.
дополнительные инструменты для контроля и иногда даже репрессий. Вывод: необходимость регулирования Все вышесказанное приводит к простому выводу: текущие проблемы с ИИ - это проблемы нерегулируемого ИИ и игнорирования масштабных последствий этого для общества. Было бы наивно ожидать, что нерегулируемые рынки сделают правильный выбор между общественным благом и прибылью от монополизации данных. Но проблема заключается не только во власти монополий. Даже если бы число крупных технологических компаний не ограничивалось несколькими нынешними гигантами, нет гарантии, что у них были бы разные бизнес-модели и разный подход к использованию ИИ. Следовательно, антимонопольное законодательство - не самый мощный и, конечно, недостаточный инструмент для борьбы с возможным вредом, который может нести использование ИИ. Поэтому политика в отношении ИИ должна быть сфокусирована на том, чтобы перенаправить само развитие технологий: от автоматизации и сбора данных, расширяющих власть корпораций, - на методы, которые создают новые возможности работникам и гражданам. Приоритетом новой политики должно также стать системное регулирование сбора и использования данных, использования ИИ для манипулирования поведением пользователей, онлайн-коммуникации и обмен информацией.
Проблема с направлением технологий Может сложиться впечатление, что внедрение ИИ обязательно приведет к катастрофическим социальным последствиям. ИИ - многообещающая технология. Проблема же заключается в текущем направлении развития и использования ИИ. В целом направление, в котором сегодня развивается ИИ, расширяет возможности корпораций за счет работников и граждан, а также часто предоставляет правительствам
Дарон Аджемоглу (Daron Acemoğlu), профессор прикладной экономики в MIT
