Обновление OpenAI ChatGPT Health вызывает вопросы о безопасности данных

Вкратце

• OpenAI сообщает, что ChatGPT Health начнет распространяться среди избранных пользователей уже на этой неделе, а более широкий доступ планируется в ближайшие недели.
• Эта функция хранит разговоры о здоровье отдельно от других чатов и не использует их для обучения моделей OpenAI.
• Защитники конфиденциальности предупреждают, что медицинские данные, передаваемые AI-инструментам, часто выходят за рамки законов США о медицинской тайне.

В среду OpenAI объявила о новой функции в ChatGPT, позволяющей пользователям подключать медицинские записи и данные о здоровье, что вызвало опасения у некоторых экспертов и правозащитных групп по поводу использования личных данных. Калифорнийский гигант AI, базирующийся в Сан-Франциско, заявил, что инструмент, получивший название ChatGPT Health, разработан совместно с врачами и предназначен для поддержки ухода, а не для диагностики или лечения заболеваний. Компания позиционирует его как способ помочь пользователям лучше понять свое здоровье. Для многих пользователей ChatGPT уже стал основным инструментом для вопросов о медицинской помощи и психическом здоровье. 

OpenAI сообщил Decrypt, что ChatGPT Health делится только общей, «фактической информацией о здоровье» и не предоставляет «персонализированные или опасные медицинские советы». Для вопросов повышенного риска он будет предоставлять общую информацию, отмечать потенциальные риски и поощрять общение с фармацевтом или медицинским специалистом, знакомым с конкретной ситуацией пользователя. Этот шаг последовал вскоре после того, как в октябре компания сообщила, что более 1 миллиона пользователей обсуждают суицид с чатботом каждую неделю. Это составляло примерно 0,15% всех пользователей ChatGPT на тот момент. Хотя эти показатели представляют собой относительно небольшую долю общего числа пользователей, эксперты отмечают, что большинству из них потребуется решать вопросы безопасности и конфиденциальности данных.

«Даже когда компании заявляют о наличии мер по обеспечению конфиденциальности, потребители часто лишены значимого согласия, прозрачности или контроля над тем, как их данные используются, хранятся или перепрофилируются», — заявил Decrypt представитель организации Public Citizen, отвечающий за контроль за крупными технологическими компаниями, Дж. Б. Бранч. «Медицинские данные особенно чувствительны, и без четких юридических ограничений и обязательного надзора саморегулируемые меры защиты просто недостаточны для защиты людей от злоупотреблений, повторной идентификации или последующего вреда». OpenAI в своем заявлении отметил, что медицинские данные в ChatGPT Health по умолчанию зашифрованы, хранятся отдельно от других чатов и не используются для обучения базовых моделей. По словам старшего советника по политике Центра демократии и технологий Эндрю Кроуфорда, многие пользователи ошибочно полагают, что медицинские данные защищены из-за их чувствительности, а не из-за того, кто их держит. «Когда ваши медицинские данные хранятся у вашего врача или страховой компании, применяются правила конфиденциальности HIPAA», — сказал Кроуфорд Decrypt. «То же самое не относится к организациям, не подпадающим под HIPAA, например, разработчикам медицинских приложений, носимых устройств для отслеживания здоровья или AI-компаниям». Кроуфорд отметил, что запуск ChatGPT Health также подчеркивает, как ответственность за обработку данных ложится на потребителей в отсутствие всеобъемлющего федерального закона о конфиденциальности, регулирующего данные о здоровье, хранящиеся у технологических компаний. «Жаль, что наши текущие федеральные законы и нормативы возлагают эту ответственность на отдельных потребителей, заставляя их анализировать, насколько им комфортно с тем, как технологии, которыми они пользуются ежедневно, обрабатывают и делятся их данными», — добавил он. OpenAI сообщил, что ChatGPT Health сначала будет доступен небольшой группе пользователей. Список ожидания открыт для пользователей ChatGPT за пределами Европейского союза и Великобритании, а более широкий доступ планируется в ближайшие недели через веб и iOS. В объявлении OpenAI не упоминались устройства Google или Android.