Правительство РФ разрабатывает законопроект о регулировании ИИ, который обяжет сохранять решающее слово за человеком в социально значимых сферах: здравоохранении, образовании, юриспруденции и общественной безопасности. Правила внесут в новый закон о регулировании нейросетей.
Проблемы ИИ уже реальны: нейросети в медицине дают неверные диагнозы, в судах ссылаются на вымышленные статьи законов, а системы распознавания лиц ошибаются без человеческого контроля. «Галлюцинации» моделей — когда вчерашний эксперт сегодня выдает чушь — усугубляют риски. Эксперты выделяют три угрозы: предвзятость данных, размывание ответственности и потерю доверия общества к цифре.
Запрет на автономный ИИ не тотальный. В России ищут «золотую середину» — эксперименты по использованию ИИ в документообороте уже идут, но с человеческим надзором.
Изображение: Perplexity
