ChatGPT відмовився відповідати на пов'язані з ліками питання

У ході експерименту вчені поставили програмі 45 питань щодо медичної тематики. Чат-бот відмовився відповідати безпосередньо на 11 із них, дав неточні відповіді на 10 та відповів неправильно на 12 питань. Щодо кожного питання дослідники попросили надати джерело: ChatGPT підкріпив посиланнями лише 8 відповідей, причому всі вони були неіснуючими.

Так, автори дослідження запитали чат-бота про те, чи взаємодіятимуть один з одним противірусні ліки від COVID-19 паксловид і препарат верапаміл, що знижує артеріальний тиск. Бот відповів, що взаємодії між лікарськими засобами немає, хоча насправді їхнє спільне застосування може призвести до надмірного зниження артеріального тиску.

На питання про вибір дози певного препарату ChatGPT зробив серйозну помилку: чат-бот відобразив дозу в міліграмах замість мікрограмів.

 

«Будь-який медичний працівник, який попросить допомоги у бота, отримає дозу, яка у 1000 разів менша, ніж має бути», — заявила автор дослідження Сара Гроссман.

У матеріалі йдеться, що вчені використовували безкоштовну версію чат-бота, яка звертається до даних, завантажених та оброблених не пізніше вересня 2021 року. Фахівці зробили висновок, що платна версія інструменту, ймовірно, дає більш точні відповіді.

Раніше вчені з'ясували, що чат-бот ChatGPT може видавати випадковим користувачам гігабайти конфіденційних даних. Приватну інформацію вдалося отримати за допомогою серії спеціальних запитів.