Чатботовете с изкуствен интелект дават неточни и непоследователни медицински съвети, които могат да представляват риск за потребителите, показва ново проучване на Оксфордския университет. Изследването установява, че хората, използващи изкуствен интелект за здравни консултации, са получавали смесица от добри и лоши отговори – и често не могат да преценят на кои да се доверят, предава BBC.
Анкета на Mental Health UK от ноември 2025 г. показва, че повече от един на всеки трима британци вече използва изкуствен интелект, за да подпомогне психичното си здраве или благополучие.
Д-р Ребека Пейн, водещ лекар в проучването, предупреждава, че може да бъде „опасно“ хората да питат чатботове за своите симптоми.
Чатботовете дават смесена информация
Изследователите дават на 1300 души различни сценарии – например силно главоболие или наскоро родила жена, която чувства постоянна умора. Участниците са разделени на две групи: едната използва ИИ, за да разбере какво може да се случва и какво да предприеме; другата – не.
След това учените оценяват дали хората правилно са разпознали потенциалния проблем и са взели правилното решение – да се посети личен лекар или спешно отделение.
Резултатът: хората, използвали изкуствен интелект, често не знаят какво да попитат и са получавали различни отговори в зависимост от формулировката на въпроса. Чатботовете дават смесена информация, която е трудна за преценка.
Къде възникват проблемите?
Д-р Адам Махди, старши автор на изследването, казва пред BBC, че макар изкуственият интелект да е в състояние да предоставя медицинска информация, хората „се затрудняват да получат полезни съвети от него“.
„Хората споделят информация постепенно. Те пропускат детайли, не споменават всичко. Когато ИИ изброи три възможни диагнози, хората трябва да гадаят коя е най-вероятната. Точно тогава възникват проблеми.“, обяснява той.
Водещият автор Андрю Бийн допълва, че анализът показва как взаимодействието с хора представлява предизвикателство „дори за най-добрите модели на изкуствен интелект“ и се надява проучването да помогне за създаването на по-безопасни и полезни системи.
Предразсъдъци, заложени в медицинските данни
Д-р Амбър У. Чайлдс, доцент по психиатрия в Медицинския факултет на Йейл, казва, че чатботовете, обучени по съвременни медицински практики и данни, наследяват и техните предразсъдъци, натрупани с десетилетия.
„Диагностичните му способности са сравними с тези на опитен лекар – но и това далеч не е съвършено“, казва тя.
Какво предстои за ИИ в здравеопазването?
Д-р Берталан Меско, редактор на The Medical Futurist, смята, че предстоят значителни подобрения. Той отбелязва, че големи разработчици като OpenAI и Anthropic вече са пуснали специализирани здравни версии на своите чатботове, които вероятно биха дали различни резултати в подобно проучване.
Според него целта трябва да бъде „постоянно усъвършенстване“ на технологията, особено на здравните ѝ приложения, подкрепено от ясни национални регулации, предпазни мерки и медицински стандарти.
