Искусственный интеллект нередко превозносят за скорость, эффективность и мгновенную реакцию. Однако в медицине поспешность без должной осмысленности может быть опасна: есть решения, которые нельзя принимать, пока они не будут до конца очевидны.
Как хирург, я подхожу к этому вопросу сквозь призму опыта, приобретённого в операционной. Медицина за десятилетия усвоила урок, который теперь предстоит быстро освоить и ИИ: консенсус – это полезно, но он не тождественен истине.
Этот вывод стал следствием фундаментальной трансформации в подходе к принятию медицинских решений. Современная медицина эволюционировала от опоры на индивидуальное экспертное мнение к междисциплинарному принятию решений (МДП). Один специалист неизбежно может что‑то упустить: например, рентгенолог способен увидеть закономерности, ускользающие от внимания хирурга. Эффективность МДП как раз и строится на том, что несколько независимых точек зрения рассматривают одну проблему под разными углами. Но система работает лишь при условии, что в ней допустимо возникновение разногласий.
Таким образом, подлинная ценность междисциплинарного мышления не в достижении согласия, а в способности делать неопределённость видимой.
Если эволюцию процесса принятия медицинских решений свести к «роботу‑врачу» в рамках МДП, есть риск, что инновации обернутся возвращением к централизованному мышлению. Сведение неопределённости к единственному, якобы бесспорному ответу воссоздаст именно ту уязвимость, которую междисциплинарная медицина призвана преодолеть. Это напрямую указывает на один из самых серьёзных рисков применения ИИ в сферах с высокой степенью ответственности.
Главная опасность – ложный консенсус: неопределённость сохраняется, но становится невидимой. В медицине истина не рождается путём усреднения мнений. Она достигается через проверку гипотез. Вопрос не в том, способен ли ИИ выдавать ответы, а в том, может ли он помогать людям осознавать и понимать неопределённость, которая за этими ответами стоит.
Эта проблема выходит далеко за рамки медицины и затрагивает более широкий вопрос – цифровой суверенитет. Истинный суверенитет в сфере ИИ – это не только контроль над данными и инфраструктурой. Речь идёт о суверенитете рассуждений: о сохранении способности мыслить независимо, подвергать сомнению исходные предположения и поддерживать возможность открытого несогласия.
Чтобы осознать важность этого, полезно обратиться к тому, как устроены сложные системы как в экономике, так и в природе.
Австрийско‑британский экономист и философ Фридрих Хайек (1899–1992), лауреат Нобелевской премии по экономике, предупреждал: сложные системы невозможно понять или контролировать из одной центральной точки, поскольку знания по своей сути распределены. Наглядную аналогию даёт сама природа. Например, стая скворцов: ни одна птица не выступает в роли лидера, но при этом возникают согласованные, скоординированные узоры движения. Единая модель ИИ, которая «разрешает» разногласия, выдавая один‑единственный верный ответ, это не стая. Это одинокая птица, указывающая остальным, куда лететь.
Если интеллект рождается из многообразия распределённых перспектив, то системы ИИ должны проектироваться так, чтобы сохранять это разнообразие, а не стирать его.
Многоагентная система рассуждений, где независимые агенты строят выводы на базе разных моделей, наборов данных или подходов, способна сделать предвзятость более заметной. В такой системе разногласия перестают быть помехой. Они становятся сигналом.
В медицине голос меньшинства, выражающего обеспокоенность, может помочь выявить диагноз, который иначе остался бы незамеченным. Ещё Джон Стюарт Милль (1806–1873), британский философ, экономист и политический мыслитель, и Алексис де Токвиль (1805–1859), французский историк и политический деятель, предостерегали: мнение большинства может превратиться в форму тирании. Мнение большинства бывает полезным, но оно отнюдь не застраховано от ошибок. Системы искусственного интеллекта должны не подавлять и не сглаживать сигналы от меньшинства, а сохранять их как важные индикаторы риска.
При этом разногласия обретают ценность лишь тогда, когда они должным образом организованы.
Задача модератора – не определять «победителя» в споре, а структурировать процесс рассуждения: в чём агенты сходятся, в чём расходятся, почему возникают различия, какие гипотезы выглядят ненадёжными, какой информации не хватает. Цель здесь – не автономное принятие решений, а усиление и совершенствование человеческого мышления. Приближение к истине не требует всеобщего согласия: оно требует, чтобы разногласия оставались видимыми, были чётко структурированы и воспринимались как неотъемлемая часть процесса.
Хотя эти принципы изначально сформировались в медицине, их значимость далеко выходит за пределы здравоохранения.
За пределами медицины особую угрозу представляет чрезмерная институциональная самоуверенность. Системы ИИ, применяемые в государственном управлении, кибербезопасности, образовании и бизнесе, должны явно демонстрировать границы своих знаний: показывать, что они осознают, чего не знают, и подчёркивать, где решающую роль по‑прежнему играет человеческое суждение.
При проектировании ИИ следует руководствоваться тремя принципами: прозрачность важнее гибкости, ответственность человека важнее автономности машины, а структурированное несогласие важнее ложного консенсуса.
В хирургии часто требуется период обдумывания перед принятием необратимых решений. Структурированное несогласие не является препятствием для принятия решений; именно оно делает решения честными.
По мере того, как ИИ все больше интегрируется в общество, мы сталкиваемся с аналогичным моментом. Будущее ИИ должно заключаться не в замене человеческого мышления, а в его дисциплинированном развитии. Консенсус может быть полезен, но истина проявляется тогда, когда несогласие остается видимым, ответственным и свободным.
Целью технологии должно быть не автоматизация конформизма. Она должна служить укреплению свободы, индивидуальности, ответственности и человеческого стремления к истине.
Фолькерт Вреесманн, доктор медицинских наук, хирург и отоларинголог
