Ученые предложили фиксировать расхождения между врачом и ИИ для повышения прозрачности и ответственности
19.10.2026
Такой учет должен отражать три ключевые оси: структурную (что рабочий процесс и интерфейс позволяют врачу видеть и делать), информационную (какие данные привнесла каждая сторона) и поведенческую (как врач взаимодействовал с логикой ИИ, а не только с его итоговым выводом).
Расхождение, по мнению авторов, может возникать из-за асимметрии информации, подлинного разногласия на основе одних данных или ошибки одной из сторон. Они намеренно используют термин «расхождение», а не «разногласие», поскольку при асимметрии информации привлечение третьего мнения не решает корневую проблему.
В клинических условиях это усугубляется необходимостью принимать решение в реальном времени и с рисками для безопасности пациентов.
Исследование показало, что врачи асимметрично принимали 58% вредных рекомендаций системы и лишь 22% полезных. Даже формально обученные оценке ИИ врачи снижали диагностическую точность на 14%, когда могли консультироваться с большими языковыми моделями (LLM).
Авторы подчеркивают, что фиксация расхождений позволит сделать взаимодействие человека и ИИ более прозрачным, лучше обосновать моральную ответственность и, возможно, снизить юридические риски. Они призывают переосмыслить расхождение как момент наивысшей ценности для клинического ИИ – точку, в которой видно, что именно привнесла каждая сторона и где можно учиться на различиях в рассуждениях, а не просто исправлять ошибку.
Летом 2026 года ученые из Китайского университета Гонконга, Имперского и Университетского колледжей Лондона, Пекинской больницы дружбы при
Столичном медицинском университете и ряда других научных центров пришли к выводу, что автоматизированная оценка LLM в контексте клинических случаев пока не может заменить врачебную экспертизу. Несмотря на высокий уровень совпадения с мнением специалистов, алгоритмы не воспроизводят особенности клинического суждения. Работа опубликована в журнале Digital Medicine.
Ученые предложили фиксировать расхождения между врачом и ИИ для повышения прозрачности и ответственности
Суть идеи в том, что при расхождении вывода алгоритма и суждения врача современные интерфейсы фиксируют только итоговое решение, теряя информацию о самом процессе взаимодействия. Авторы предлагают создать отдельный учет этого взаимодействия – запись, которую не может предоставить ни модель, ни врач по отдельности.Такой учет должен отражать три ключевые оси: структурную (что рабочий процесс и интерфейс позволяют врачу видеть и делать), информационную (какие данные привнесла каждая сторона) и поведенческую (как врач взаимодействовал с логикой ИИ, а не только с его итоговым выводом).
Расхождение, по мнению авторов, может возникать из-за асимметрии информации, подлинного разногласия на основе одних данных или ошибки одной из сторон. Они намеренно используют термин «расхождение», а не «разногласие», поскольку при асимметрии информации привлечение третьего мнения не решает корневую проблему.
В клинических условиях это усугубляется необходимостью принимать решение в реальном времени и с рисками для безопасности пациентов.
Исследование показало, что врачи асимметрично принимали 58% вредных рекомендаций системы и лишь 22% полезных. Даже формально обученные оценке ИИ врачи снижали диагностическую точность на 14%, когда могли консультироваться с большими языковыми моделями (LLM).
Авторы подчеркивают, что фиксация расхождений позволит сделать взаимодействие человека и ИИ более прозрачным, лучше обосновать моральную ответственность и, возможно, снизить юридические риски. Они призывают переосмыслить расхождение как момент наивысшей ценности для клинического ИИ – точку, в которой видно, что именно привнесла каждая сторона и где можно учиться на различиях в рассуждениях, а не просто исправлять ошибку.
Летом 2026 года ученые из Китайского университета Гонконга, Имперского и Университетского колледжей Лондона, Пекинской больницы дружбы при
Столичном медицинском университете и ряда других научных центров пришли к выводу, что автоматизированная оценка LLM в контексте клинических случаев пока не может заменить врачебную экспертизу. Несмотря на высокий уровень совпадения с мнением специалистов, алгоритмы не воспроизводят особенности клинического суждения. Работа опубликована в журнале Digital Medicine.
