La Organización Mundial de la Salud (OMS), una entidad de las Naciones Unidas, ha introducido a SARAH, una promotora de salud digital, que utiliza inteligencia artificial (IA) generativa para brindar consejos sobre salud. Disponible en ocho idiomas, SARAH promete asistencia constante para vivir de manera más saludable. Sin embargo, según Bloomberg, este prototipo aún enfrenta limitaciones significativas, incluyendo respuestas erróneas o desactualizadas sobre cuestiones médicas.
SARAH se diseñó con la intención de proporcionar información válida en una variedad de temas relacionados con la salud, desde cómo gestionar el estrés hasta consejos de nutrición. La OMS afirma que el chatbot se ha entrenado con datos recientes y fiables, si bien reconoce que sus respuestas no necesariamente reflejan los puntos de vista de la organización. Este reconocimiento subraya una preocupación más amplia sobre la fiabilidad de los consejos de salud ofrecidos por algoritmos de IA, que pueden «alucinar» o brindar información incorrecta a pesar de un entrenamiento de calidad.
La tecnología detrás de SARAH pertenece a ChatGPT-3.5, y su base de datos se extiende hasta septiembre de 2021, lo que limita su capacidad para proporcionar información actualizada sobre situaciones de salud emergentes o recientes. Por ejemplo, no pudo ofrecer datos actualizados sobre el fin de la emergencia sanitaria de COVID-19 o estadísticas recientes de accidentes de tráfico.
En cuanto a la privacidad, SARAH promete el anonimato en cada interacción y no vincula los datos recopilados a ninguna dirección IP específica. Sin embargo, solicita el acceso a la cámara y al micrófono del usuario, algo que puede invocar preocupaciones de privacidad, aunque la OMS asegura que estos videos se eliminan después de 30 segundos para mejorar la interacción a través del reconocimiento de expresiones faciales.
SARAH es un proyecto en desarrollo, y la OMS está abierta a recibir comentarios de los usuarios para mejorar su funcionamiento. Este empeño no solo busca ofrecer un servicio de información de salud a través de la IA, sino también entender mejor los beneficios y desafíos de la tecnología en este ámbito, reconociendo preocupaciones éticas como el acceso equitativo, la privacidad, la seguridad, la precisión y la protección de datos.