Исследование: ИИ может манипулировать людьми для принятия решений
Учёные Кембриджского университета обнаружили, что инструменты искусственного интеллекта могут использоваться для манипуляции людьми в интернете, влияя на их решения — от покупок до выбора кандидатов на выборах.
Это связано с новой концепцией «экономики намерений», которая пришла на смену «экономике внимания», где рекламодатели покупают доступ к вниманию пользователей.
В рамках «экономики намерений» компании будут продавать информацию о мотивах пользователей, включая их предпочтения и мнения. Исследование утверждает, что большие языковые модели, такие как ChatGPT, будут использоваться для предсказания и управления поведением пользователей на основе их данных.
Учёные отмечают, что ИИ сможет адаптировать рекламные предложения и даже направлять беседы, чтобы извлечь больше личной информации.
Например, Meta (запрещена и признана экстремистской в РФ) может начать продавать намерения пользователей, такие как желания забронировать ресторан или отель, создавая таким образом персонализированные рекламные кампании.
В будущем ИИ может стать мощным инструментом для манипуляции пользователями, что поднимает вопросы о безопасности и этике использования таких технологий.
«Репортёры без границ» призвали Apple отказаться от новостей, созданных ИИ