Хотя ChatGPT, Gemini и другие продукты генеративного ИИ находят своё применение, некоторые компании перебарщивают. Помимо таких проблем, как галлюцинации или сбои в работе ИИ (например, удаление целой базы данных кода из-за «паники»), существуют также опасения, что ИИ используется без ведома или разрешения пользователей. YouTube показал нам прекрасный пример того, как это может происходить.

В одном из последних экспериментов платформы YouTube начал вносить небольшие правки в некоторые видео, не уведомляя об этом создателя. Хотя эти изменения не были сделаны с помощью генеративного искусственного интеллекта, они были основаны на машинном обучении. В основном, судя по всему, изменения добавили чёткости таким вещам, как морщины, а также сделали кожу более чёткой на некоторых видео.

Хотя YouTube и раньше внедрял полезные инструменты искусственного интеллекта, например, помогая создателям придумывать идеи для видео, эти последние изменения являются частью более масштабной проблемы: они вносятся без согласия пользователей.