Обяснимост и доказателства при AI в онкологията

При AI в онкологията обяснимостта често се обсъжда така, сякаш маркирана област или атрибуция на характеристика са достатъчни. Не са. Полезното обяснение трябва да помогне на предназначения потребител да разбере за какво е създадена системата, каква информация използва, как се интерпретира резултатът и къде доказателствата не подкрепят заключение.

Определете аудиторията и решението

Патолог, ръководител на лаборатория, пациент, регулатор и изследовател имат нужда от различна информация. Започнете с идентифициране на решението, което резултатът може да подпомогне, и на човека, отговорен за това решение. Обяснимостта трябва да подкрепя професионалния преглед и отчетността, а не да насърчава приемане на резултата без разглеждане на случая.

Разделете логиката от доказателствата

Топлинна карта, карта на значимост, контрафактуален пример или списък с характеристики представлява поведението на модела. Това автоматично не е доказателство, че маркираната морфология е причинила резултата, нито че резултатът е клинично правилен. Всяко обяснение трябва да се съчетава с доказателства за производителност, известни откази, оценяваната популация и условията, при които резултатът не трябва да се използва.

Тествайте обясненията с предназначените потребители

Оценете дали предназначените потребители разбират обяснението, разпознават несигурността, откриват случай извън обхвата и предприемат подходяща следваща стъпка. Тествайте разбирането и поведението, а не само визуалната привлекателност. Технически подробно обяснение може да бъде опасно, ако създава неоправдана увереност или отвлича вниманието от значими тъканни находки.

Отчитайте несигурността и ограниченията

Доказателствата трябва да включват значимата несигурност, покритието на подгрупите, калибрирането или поведението на праговете, липсващите данни и известните откази. Обяснете как потребителят може да постави под въпрос резултата и какво се случва, когато системата не може да произведе резултат. Ясните ограничения са част от прозрачността, а не признание за неуспешна оценка.

Обяснимостта може да направи доказателствата по-лесни за проверка, но не превръща подпомагането на решения в автономна диагностика. В онкологията квалифициран професионалист трябва да интерпретира целия случай в одобрения или предназначения работен процес, а публичните твърдения трябва да описват доказателствата и ограниченията, без да внушават клиничен резултат, който не е установен.