ChatGPT ограничил ответы на юридические и медицинские вопросы

Компания OpenAI (США) внесла существенные изменения в правила эксплуатации своих ИИ‑решений. Обновлённая политика ограничивает функционал чат‑бота ChatGPT и прочих нейросетевых моделей в двух критически важных сферах — медицине и юриспруденции. Соответствующее уведомление опубликовано на официальном ресурсе разработчика.

Новые регламенты вводят чёткие запреты на ряд действий: в юридической области: выдача персонализированных консультаций; анализ правовых рисков для конкретных кейсов; разработка тактики судебной защиты;подготовка процессуальной документации.

В медицинской сфере: формулировка диагнозов; назначение фармакологических препаратов; расчёт дозировок лекарств; расшифровка диагностических изображений (рентген, МРТ, КТ), а также фото дерматологических проявлений.

При попытках получить экспертные рекомендации в этих областях ChatGPT будет ограничиваться предоставлением общеинформационных данных. При этом система обязательно предупредит пользователя о необходимости консультации с квалифицированным специалистом — врачом или юристом.

Введённые ограничения носят универсальный характер и распространяются на все продукты OpenAI, включая веб‑интерфейс чат‑бота и программный интерфейс API.

Цель данных мер — повышение уровня безопасности пользователей при взаимодействии с ИИ‑технологиями.