Kurz und informativ

Chatbots: ungenaue Auskünfte zu Arzneimitteln
Eine neue Studie hat gezeigt, dass KI-unterstützte Suchmaschinen und Chatbots keine zuverlässigen Informationen zu Arzneimitteln liefern. Forscher um Wahram Andrikyan vom Institut für Experimentelle und Klinische Pharmakologie und Toxikologie der Universität Erlangen stellten dem KI-gestützten Chatbot der Suchmaschine Bing im April 2023 zehn Fragen zu den 50 am meisten verordneten Arzneimitteln in den USA. Fragestellungen betrafen die Einnahme, Nebenwirkungen und Kontraindikationen. Fazit: Die Qualität der Antworten des Bots waren nicht ausreichend für eine sichere Anwendung. Sie waren zum Teil wiederholt ungenau und unvollständig. Zwar habe es rasante Fortschritte bei KI-gestützten Suchmaschinen mit Chatbotfunktion gegeben, Risiken für die Patientensicherheit blieben jedoch bestehen. Die Autoren erachten es als sinnvoll, auch die Sicherheit und Qualität anderer technischer Systeme zu untersuchen, weil