Всемирная организация здравоохранения (ВОЗ) призвала быть осторожными при использовании искусственного интеллекта (ИИ) в сфере общественного здоровья.
Речь идёт о таких популярных платформах, как ChatGPT, Bard, Bert и многие другие, которые имитируют человеческое общение.
ВОЗ отмечает, что в случае с подобными платформами не сохраняется та осторожность, которой обычно придерживаются в любой новой технологии.
«Поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, причинить вред пациентам, подорвать доверие к ИИ и тем самым подорвать (или отсрочить) потенциальные долгосрочные преимущества и использование таких технологий во всем мире», — говорится в заявлении организации.
Что именно вызывает опасения экспертов ВОЗ:
- Данные, используемые для обучения ИИ, могут быть необъективными или неточными и представлять риск для здоровья;
- ИИ генерирует ответы, которые могут казаться пользователю авторитетными и правдоподобными, но будут полностью неверными или содержать серьёзные ошибки, особенно если это касается здоровья;
- ИИ может учиться на основе данных, согласие на использование которых не было получено. Он также не может защитить конфиденциальную информацию, которую пользователь предоставляет, чтобы получить ответ (например, о состоянии здоровья);
- ИИ может использоваться для «убедительной дезинформации» в виде текста, аудио- или видеозаписей, которые обществу будет трудно отличить от достоверного медицинского контента.
