Искусственный интеллект в здравоохранении

В кон­це про­шлой неде­ли Вла­ди­мир Путин впер­вые про­вел откры­тое сове­ща­ние по теме раз­ви­тия искус­ствен­но­го интел­лек­та в Рос­сии. «Если кто-то смо­жет обес­пе­чить моно­по­лию в сфе­ре искус­ствен­но­го интел­лек­та — тот ста­нет вла­сте­ли­ном мира», — резю­ми­ро­вал пре­зи­дент и пред­ло­жил актив­ное содей­ствие во всем, что свя­за­но с ИИ, в том чис­ле содей­ствие инве­сти­ци­он­ное: на раз­ви­тие отрас­ли пла­ни­ру­ет­ся потра­тить око­ло 90 млрд руб­лей в бли­жай­шие шесть лет.

Что­бы госу­дар­ствен­ная ини­ци­а­ти­ва не кон­чи­лась про­ва­лом, раз­би­ра­ем­ся в труд­но­стях раз­ви­тия искус­ствен­но­го интел­лек­та и в том, как эти труд­но­сти пре­одо­леть.

Ком­му­низ­ма при­зрак по Евро­пе рыс­кал,

ухо­дил и вновь мая­чил в отда­ле­нии…

(В.В. Мая­ков­ский)

Если в при­ве­ден­ном эпи­гра­фе сло­во «Ком­му­низм» заме­нить на «искус­ствен­ный интел­лект» (ИИ), а «Евро­пу» на «Мир», его смысл ока­жет­ся более чем совре­мен­ным. Дей­стви­тель­но, тех­но­ло­гии, осно­ван­ные на исполь­зо­ва­нии воз­мож­но­стей ней­рон­ных сетей, стре­ми­тель­но внед­ря­ют­ся прак­ти­че­ски во все обла­сти чело­ве­че­ской дея­тель­но­сти. Не ста­ла исклю­че­ни­ем и меди­ци­на.

Реаль­ная поль­за или эйфо­рия от мод­но­го тер­ми­на?

Совер­шен­но оче­вид­но, что искус­ствен­ный интел­лект не отде­лим от ком­пью­тер­ных инфор­ма­ци­он­ных тех­но­ло­гий. Дру­ги­ми сло­ва­ми, толь­ко в тех обла­стях мож­но рас­счи­ты­вать на успех, где актив­но исполь­зу­ют­ся и напол­ня­ют­ся каче­ствен­ны­ми запи­ся­ми хра­ни­ли­ща дан­ных. С дру­гой сто­ро­ны, раз воз­мож­но­сти и про­из­во­ди­тель­ность вычис­ли­тель­ной тех­ни­ки год от года воз­рас­та­ют, то види­мо и в части тех­но­ло­гий «Big Data», лежа­щих в осно­ве ИИ, «все пути для нас откры­ты, все доро­ги нам вид­ны…». Отсю­да выте­ка­ет логич­ный на пер­вый взгляд вывод — воз­мож­но­сти искус­ствен­но­го интел­лек­та без­гра­нич­ны и заоб­лач­ные высо­ты без осо­бо­го тру­да дости­жи­мы. На этом фоне совер­шен­но не хочет­ся заду­мы­вать­ся о суще­ство­ва­нии воз­мож­ных огра­ни­че­ний. И напрас­но.

Поло­же­ние дел очень напо­ми­на­ет ситу­а­цию пери­о­да 2008 – 2012 гг., когда сре­ди меди­цин­ско­го сооб­ще­ства ста­ло рас­про­стра­нять­ся пред­став­ле­ние о «неогра­ни­чен­ных воз­мож­но­стях инфор­ма­ти­за­ции». Неко­то­рым руко­во­ди­те­лям каза­лось даже, что внед­ре­ние МИС разом закро­ет все про­бле­мы МО. Что­бы эйфо­рия про­шла и меди­цин­ские инфор­ма­ци­он­ные систе­мы заня­ли в рабо­те орга­ни­за­ций пред­на­зна­чен­ное им место, потре­бо­вал­ся опыт несколь­ких лет их актив­ной экс­плу­а­та­ции.

Воз­мож­но­сти МИС ока­за­лись несколь­ко скром­нее мак­си­маль­ных ожи­да­ний руко­во­ди­те­лей МО, но зато и пер­спек­ти­вы повы­ше­ния эффек­тив­но­сти их исполь­зо­ва­ния зна­чи­тель­но выхо­дят за пре­де­лы пер­во­на­чаль­но постав­лен­ных перед ними задач. В резуль­та­те неиз­беж­ность ком­плекс­ной инфор­ма­ти­за­ции здра­во­охра­не­ния ста­ла для всех оче­вид­ной. Точ­но так­же и исполь­зо­ва­ние в неда­ле­ком буду­щем систем экс­перт­ной под­держ­ки реше­ний, осно­ван­ных на воз­мож­но­стях ИИ, весь­ма веро­ят­но.

Надо, одна­ко, пони­мать, что исполь­зо­ва­ние «искус­ствен­но­го интел­лек­та» в меди­цине не отно­сит­ся к зада­чам сего­дняш­не­го дня. При­чин это­му мно­го. Не на послед­нем месте сто­ит, в част­но­сти, недо­ста­точ­ное пра­во­вое обес­пе­че­ние соот­вет­ству­ю­щих про­ек­тов. Не сто­ит в этих вопро­сах и от Мини­стер­ства ждать мило­сти. Надо, без­услов­но, «бороть­ся и искать, най­ти и не сда­вать­ся!». Но не сле­ду­ет и воз­душ­ные зам­ки стро­ить. И уж тем более счи­тать, что «искус­ствен­ный интел­лект» уже готов к внед­ре­нию в прак­ти­че­скую меди­ци­ну. Кое-что «ней­рон­ные сети» могут конеч­но уже и сего­дня. Надо лишь опре­де­лить, в каких направ­ле­ни­ях и с какой сте­пе­нью надеж­но­сти на их «реко­мен­да­ции» мож­но пола­гать­ся в обла­сти задач здра­во­охра­не­ния.

Типич­ным под­твер­жде­ни­ем ска­зан­но­му явля­ют­ся резуль­та­ты кон­фе­рен­ции по искус­ствен­но­му интел­лек­ту в меди­цине, кото­рая про­хо­ди­ла в Сале­хар­де 5 апре­ля 2019 года. Участ­ни­кам, в част­но­сти, сооб­щи­ли, что по резуль­та­там опыт­но­го внед­ре­ния искус­ствен­но­го интел­лек­та в боль­ни­це Мурав­лен­ко выяв­ле­ние фак­то­ров рис­ка онко­за­бо­ле­ва­ний уве­ли­чи­лось в семь раз, а из трид­ца­ти тысяч обра­бо­тан­ных элек­трон­ных меди­цин­ских карт паци­ен­тов, при­креп­лен­ных к лечеб­но­му учре­жде­нию, в одной тре­ти из них были обна­ру­же­ны пред­по­сыл­ки к воз­ник­но­ве­нию забо­ле­ва­ний серд­ца.

Резуль­тат уди­ви­тель­ный, но порож­да­ет смут­ные сомне­ния. Из ито­го­вых пуб­ли­ка­ций слож­но, к сожа­ле­нию, одно­знач­но интер­пре­ти­ро­вать логи­ку рабо­ты ИИ в кон­крет­ной орга­ни­за­ции (боль­ни­ца Мурав­лен­ко). С одной сто­ро­ны, про­во­ди­лось обу­че­ние экс­перт­ной систе­мы, при кото­ром «были исполь­зо­ва­ны дан­ные город­ской боль­ни­цы – более 1,3 млн доку­мен­тов». Этот под­ход, кста­ти, пол­но­стью соот­вет­ству­ет клас­си­че­ской идео­ло­гии машин­но­го обу­че­ния. С дру­гой сто­ро­ны, «Систе­ма под­счи­ты­ва­ет риск сра­зу по четы­рем мето­ди­кам». Хоте­лось бы в этом слу­чае понять:

  1. Исполь­зо­ва­лась ли экс­перт­ная систе­ма, в осно­ве кото­рой лежа­ла реаль­ная мате­ма­ти­че­ская модель, полу­чен­ная в резуль­та­те настрой­ки ней­рон­ной сети на осно­ве дан­ных элек­трон­ных меди­цин­ских карт 25-ти тысяч паци­ен­тов? Или
  2. Систе­ма была настро­е­на на обра­бот­ку дан­ных ЭМК (ана­ли­зы, обсле­до­ва­ния, жало­бы…) по извест­ным ранее мето­ди­кам опре­де­ле­ния рис­ка забо­ле­ва­ния? Или
  3. Исполь­зо­ва­лись четы­ре неза­ви­си­мые мате­ма­ти­че­ские моде­ли, постро­ен­ные путем машин­но­го обу­че­ния на раз­лич­ных по соста­ву и струк­ту­ре мас­си­вах дан­ных?

Согла­си­тесь, что уров­ни дове­рия к про­гно­зу для каж­до­го из этих под­хо­дов будут раз­лич­ны­ми.

Несколь­ко насто­ра­жи­ва­ет и то обсто­я­тель­ство, что из допол­ни­тель­но обсле­до­ван­ных шести­сот паци­ен­тов, для кото­рых ИИ опре­де­лил высо­кий риск кар­дио­ло­ги­че­ских забо­ле­ва­ний, на дис­пан­сер­ный учет были постав­ле­ны 67! То, что на этих паци­ен­тов обра­ти­ли вни­ма­ние, без­услов­но, заме­ча­тель­но, но 89% веро­ят­ных «лож­но­по­ло­жи­тель­ных» отве­тов — это несколь­ко выше уров­ня, ожи­да­е­мо­го для каче­ствен­но настро­ен­ной ней­рон­ной сети. И мож­но ли в этом слу­чае дать гаран­тию, что экс­перт­ная систе­ма не выда­ла сопо­ста­ви­мое коли­че­ство и «лож­но­от­ри­ца­тель­ных» про­гно­зов?

Это, конеч­но, кон­спи­ро­ло­гия, но объ­яс­не­ния по при­ве­ден­но­му выше резуль­та­ту могут лежать и в совер­шен­но иной плос­ко­сти. При­чи­ной может стать недо­ста­точ­ная точ­ность (адек­ват­ность) исполь­зу­е­мой мате­ма­ти­че­ской моде­ли в соче­та­нии с вза­им­ной заин­те­ре­со­ван­но­стью как раз­ра­бот­чи­ков, так и поль­зо­ва­те­лей ИИ имен­но в таком резуль­та­те. К раз­ра­бот­чи­ку при этом не предъ­яв­ля­ет­ся жест­ких тре­бо­ва­ний по каче­ству под­го­тов­ки дан­ных, необ­хо­ди­мых для машин­но­го обу­че­ния (для настрой­ки ней­рон­ной сети), а лечеб­ное учре­жде­ние полу­ча­ет под­твер­жде­ние необ­хо­ди­мо­сти уве­ли­че­ния сво­е­го бюд­же­та в свя­зи с обя­за­тель­но­стью про­ве­де­ния мно­же­ства допол­ни­тель­ных обсле­до­ва­ний.

Часть при­ве­ден­ных выше выска­зы­ва­ний, ско­рее все­го, «мел­кие при­дир­ки и инси­ну­а­ции». Одна­ко эйфо­рия от пер­вых успе­хов может реаль­но вскру­жить голо­ву и при­ве­сти к неожи­дан­ным и дале­ко не все­гда при­ят­ным послед­стви­ям. Все­ми сила­ми хоте­лось бы это­го избе­жать, тем более что пер­спек­ти­вы искус­ствен­но­го интел­лек­та, если ста­вить перед ним зада­чи, под кото­рые он реаль­но зато­чен, дей­стви­тель­но вдох­нов­ля­ют. Для тех, кто в силу сво­ей заня­то­сти в тему пока еще недо­ста­точ­но глу­бо­ко погру­зил­ся, мы попро­бу­ем при­под­нять заве­су таин­ствен­но­сти над сутью про­цес­сов, фор­ми­ру­ю­щих ядро ИИ.

Неко­то­рые осо­бен­но­сти ней­рон­ных сетей и под­хо­дов к их настрой­ке

«Искус­ствен­ный интел­лект» — это инстру­мент, осно­ван­ный на мате­ма­ти­че­ской моде­ли про­цес­са при­ня­тия реше­ния, кото­рая, в свою оче­редь, осно­ва­на на выяв­лен­ных ранее зави­си­мо­стях и зако­но­мер­но­стях. В каче­стве ядра ИИ может, в част­но­сти, исполь­зо­вать­ся и в явном виде запи­сан­ное урав­не­ние регрес­сии. В этом слу­чае мы можем напря­мую оце­ни­вать как вли­я­ние на зна­че­ние функ­ции цели каж­до­го из рас­смат­ри­ва­е­мых фак­то­ров, так и общую погреш­ность резуль­та­та.

Совре­мен­ные под­хо­ды, исполь­зу­ю­щие настрой­ки ней­рон­ных сетей, отли­ча­ют­ся (от под­хо­дов, исполь­зу­ю­щих ста­ти­сти­че­ские мето­ды полу­че­ния регрес­си­он­ных урав­не­ний) в основ­ном при­вле­че­ни­ем к раз­ра­бот­ке мате­ма­ти­че­ской моде­ли алго­рит­мов, кото­рые на выхо­де фор­ми­ру­ют «вещь в себе». Про­вер­ка адек­ват­но­сти такой моде­ли на эта­пе ее созда­ния про­во­дит­ся путем свер­ки «пред­ска­за­ний» ИИ с зара­нее извест­ны­ми целе­вы­ми зна­че­ни­я­ми под­го­тов­лен­ных тесто­вых запи­сей. Пред­по­ла­га­ет­ся, что в про­цес­се экс­плу­а­та­ции экс­перт­ная систе­ма долж­на посто­ян­но раз­ви­вать­ся и повы­шать точ­ность про­гно­за путем дона­строй­ки сво­е­го ядра, исполь­зуя для это­го вновь фор­ми­ру­е­мые запи­си.

До насто­я­ще­го вре­ме­ни в ком­мер­че­ском сег­мен­те при­сут­ство­ва­ли в основ­ном так назы­ва­е­мые «забло­ки­ро­ван­ные алго­рит­мы ИИ». Раз­ра­бо­тан­ные на их осно­ве экс­перт­ные систе­мы суще­ству­ют в виде само­сто­я­тель­ных про­грамм­ных моду­лей, вос­при­ни­ма­е­мых поль­зо­ва­те­ля­ми как «чер­ный ящик». Как пра­ви­ло, они раз­ме­ща­ют­ся в «обла­ке» и под­дер­жи­ва­ют­ся раз­ра­бот­чи­ка­ми. Суть исполь­зо­ва­ния ресур­са заклю­ча­ет­ся в пере­да­че на вход ИИ опи­са­ний кон­крет­ных про­цес­сов с откли­ком систе­мы в виде «веро­ят­но­го резуль­та­та», или «опти­маль­ной (с точ­ки зре­ния ИИ) реко­мен­да­ции». Состав таких опи­са­ний и алго­ритм пере­да­чи согла­су­ют­ся с раз­ра­бот­чи­ком (вла­дель­цем ресур­са), и повы­ше­ние каче­ства про­гно­за исполь­зу­е­мых для это­го ней­рон­ных сетей доступ­но так­же толь­ко ему.

Здесь мы стал­ки­ва­ем­ся с пер­вы­ми про­бле­ма­ми. Поста­вим себя на место спе­ци­а­ли­ста, не име­ю­ще­го досту­па к инфор­ма­ции по «knowhow» раз­ра­бот­чи­ка экс­перт­ной систе­мы. Мы вынуж­де­ны или пол­но­стью дове­рять выво­дам (реко­мен­да­ци­ям) ИИ, или от них отка­зать­ся. Пред­по­чте­ние, есте­ствен­но, отда­ет­ся пер­во­му вари­ан­ту. При этом мы не зна­ем на каких и по каким мето­ди­кам под­го­тов­лен­ных мас­си­вах дан­ных про­во­ди­лось обу­че­ние кон­крет­ной реа­ли­за­ции ней­рон­ной сети. Это может быть как неструк­ту­ри­ро­ван­ный текст опре­де­лен­но­го раз­де­ла элек­трон­ной исто­рии болез­ни, так и струк­ту­ри­ро­ван­ный набор дан­ных. Не исклю­че­но, что при обу­че­нии исполь­зо­ва­лись и фраг­мен­ты изоб­ра­же­ний или антро­по­мет­ри­че­ские пока­за­те­ли.

Нетруд­но понять, что любые инфор­ма­ци­он­ные мас­си­вы, исполь­зу­е­мые для обу­че­ния ней­рон­ных сетей, несут на себе отпе­чат­ки лич­но­сти спе­ци­а­ли­стов, их фор­ми­ру­ю­щих. Фор­му­ли­ров­ки, тер­ми­ны, обо­зна­че­ния, выво­ды все­гда будут, пусть и незна­чи­тель­но, отли­чать­ся. Исклю­че­ни­ем могут являть­ся толь­ко запи­си, созда­ва­е­мые на осно­ве исполь­зо­ва­ния согла­со­ван­ных сло­ва­рей, струк­ту­ри­ро­ван­ных спра­воч­ни­ков, или дан­ных объ­ек­тив­ных иссле­до­ва­ний. Но и этом слу­чае на каче­ство про­гно­за может суще­ствен­но повли­ять, напри­мер, мар­ка ана­ли­за­то­ра, или каче­ство реа­ген­та, если эти фак­то­ры при фор­ми­ро­ва­нии моде­ли не учи­ты­ва­лись. Ины­ми сло­ва­ми, преж­де чем внед­рять в свою прак­ти­ку искус­ствен­ный интел­лект, полез­но как мини­мум позна­ко­мить­ся с переч­нем пока­за­те­лей, исполь­зо­вав­ших­ся при обу­че­нии систе­мы, а так­же с общим объ­е­мом выбор­ки дан­ных. Понят­но, что в слу­чае закры­то­сти инфор­ма­ции по «knowhow» сде­лать это про­бле­ма­тич­но.

Пред­по­чти­тель­нее в этом смыс­ле настра­и­вать ней­рон­ные сети на дан­ных, само­сто­я­тель­но сфор­ми­ро­ван­ных кон­крет­ной меди­цин­ской орга­ни­за­ци­ей. Этот про­цесс ста­но­вит­ся ана­ло­гом свое­об­раз­но­го кон­суль­ти­ро­ва­ния менее опыт­ных вра­чей стар­ши­ми това­ри­ща­ми, рабо­та­ю­щи­ми по тем же мето­ди­кам и тех­но­ло­ги­ям. Если при этом ИИ встра­и­ва­ет­ся в струк­ту­ру (ста­но­вит­ся эле­мен­том) рабо­че­го вари­ан­та экс­плу­а­ти­ру­е­мой МИС, в зна­чи­тель­ной сте­пе­ни упро­ща­ет­ся и про­бле­ма дина­ми­че­ско­го повы­ше­ния каче­ства пред­ска­за­ний и реко­мен­да­ций. Нако­нец, даже зна­чи­тель­ное изме­не­ние мето­дик предо­став­ле­ния услуг, номен­кла­ту­ры лекар­ствен­ных пре­па­ра­тов, при­бор­но­го осна­ще­ния и т.д., лег­ко учи­ты­ва­ет­ся в моде­ли путем ее повтор­но­го обу­че­ния на рас­ши­рен­ном соста­ве дан­ных. В то же вре­мя каче­ство реко­мен­да­ций «внеш­не­го ИИ» в ана­ло­гич­ной ситу­а­ции может суще­ствен­но сни­зить­ся.

В заклю­че­ние раз­де­ла хочет­ся обра­тить вни­ма­ние на высо­кую веро­ят­ность воз­ник­но­ве­ния раз­ли­чий в под­хо­дах к созда­нию и экс­плу­а­та­ции ИИ, ори­ен­ти­ро­ван­ных на реше­ние ана­ло­гич­ных задач. Преж­де все­го, мето­ды (алго­рит­мы) настрой­ки ней­рон­ных сетей не явля­ют­ся сек­ре­том. Они обще­до­ступ­ны и при жела­нии могут исполь­зо­вать­ся любым спе­ци­а­ли­стом или любой орга­ни­за­ци­ей само­сто­я­тель­но. Все тон­ко­сти и отли­чия свя­за­ны с поста­нов­ка­ми задач, с под­го­тов­кой мас­си­вов дан­ных для машин­но­го обу­че­ния и с мето­ди­ка­ми после­ду­ю­ще­го повы­ше­ния каче­ства полу­чен­ных мате­ма­ти­че­ских моде­лей. В резуль­та­те раз­лич­ны­ми ста­но­вят­ся вре­ме­на под­го­тов­ки и тести­ро­ва­ния экс­перт­ных систем, их адап­тив­ность к кон­крет­ным тех­но­ло­ги­ям лече­ния, прин­ци­пи­аль­ная воз­мож­ность повы­ше­ния точ­но­сти «пред­ска­за­ний» и доступ­ность модер­ни­за­ции.

Направ­ле­ния эффек­тив­но­го исполь­зо­ва­ния ИИ

Наи­боль­шее рас­про­стра­не­ние тех­но­ло­гии «искус­ствен­но­го интел­лек­та» полу­чи­ли в обла­сти кла­стер­но­го ана­ли­за. Сюда отно­сят­ся, в част­но­сти, зада­чи рас­по­зна­ва­ния обра­зов (текст, речь, фото­гра­фии…), диа­гно­сти­ки и т.п. То есть, систе­ме (ИИ) пред­ла­га­ет­ся на осно­ве рек­ви­зи­тов, опи­сы­ва­ю­щих объ­ект, отне­сти его к той или иной груп­пе. При­чем ука­зан­ные груп­пы могут содер­жать как мно­же­ство эле­мен­тов (мно­же­ство кошек, мно­же­ство собак, при­зна­ки забо­ле­ва­ния и пр.), так и еди­нич­ные экзем­пля­ры (напри­мер, фото­гра­фии кон­крет­ных паци­ен­тов).

Инту­и­тив­но понят­но, что, про­пу­стив фото­гра­фию паци­ен­та через ней­рон­ную сеть, настро­ен­ную на зада­чу раз­де­ле­ния «кошек» от «собак», ответ мы конеч­но полу­чим. ИИ не может «зави­сать». Он все­гда воз­вра­ща­ет зна­че­ние веро­ят­но­сти соот­вет­ствия изоб­ра­же­ния опре­де­лен­но­му клас­су объ­ек­тов. Но это, види­мо, будет не совсем тот резуль­тат, на кото­рый мы рас­счи­ты­ва­ем. Дру­ги­ми сло­ва­ми, если нас инте­ре­су­ет кор­рект­ный про­гноз, мы, как мини­мум, долж­ны быть уве­ре­ны, что:

  1. Исполь­зу­е­мая нами ней­рон­ная сеть (ИИ) настро­е­на имен­но на ту зада­чу и про­гноз того резуль­та­та, кото­рые нас инте­ре­су­ют.
  2. Запись, кото­рую мы пода­ем на «вход» моду­ля ИИ, по сво­е­му соста­ву и зна­че­ни­ям тер­ми­нов в зна­чи­тель­ной сте­пе­ни сов­па­да­ет с под­бо­ром дан­ных, на кото­рых про­во­ди­лось машин­ное обу­че­ние (настрой­ка ней­рон­ной сети).
  3. Мож­но пола­гать­ся на опыт, ком­пе­тент­ность и ответ­ствен­ность спе­ци­а­ли­стов, запи­си кото­рых исполь­зо­ва­лись для фор­ми­ро­ва­ния обу­ча­ю­щей выбор­ки.
  4. Струк­ту­ра (текст) элек­трон­ных карт, на осно­ве запи­сей кото­рых про­во­ди­лась настрой­ка и тре­ни­ров­ка ИИ, дей­стви­тель­но соот­вет­ству­ют логи­ке вне­се­ния инфор­ма­ции в МИС поль­зо­ва­те­ля.

В пере­чень пер­спек­тив­но­го поис­ка направ­ле­ний эффек­тив­но­го исполь­зо­ва­ния ИИ мож­но, види­мо, вклю­чить и:

  1. Опти­ми­за­цию соста­ва и после­до­ва­тель­но­сти диа­гно­сти­че­ских меро­при­я­тий с уче­том пред­ва­ри­тель­но полу­чен­ных резуль­та­тов.
  2. Вари­ан­ты опти­ми­за­ции лечеб­ных меро­при­я­тий, исхо­дя из теку­ще­го состо­я­ния паци­ен­та, уста­нов­лен­но­го диа­гно­за и доступ­ных ресур­сов.
  3. Про­гноз резуль­та­та ста­ци­о­нар­но­го лече­ния с уче­том началь­ных усло­вий и воз­мож­ной после­до­ва­тель­но­сти вари­ан­тов воз­дей­ствий на паци­ен­та при выбо­ре того или ино­го лечеб­но­го стан­дар­та.
  4. Выбор опти­маль­но­го соста­ва и после­до­ва­тель­но­сти опе­ра­тив­ных лечеб­ных меро­при­я­тий с уче­том дина­ми­ки изме­не­ния состо­я­ния паци­ен­та, и т.д.

Эти зада­чи суще­ствен­но слож­нее. Соот­вет­ствен­но и воз­мож­ность прак­ти­че­ско­го исполь­зо­ва­ния ИИ с целью их эффек­тив­но­го реше­ния пока не оче­вид­на. Тем не менее, все раз­ви­ва­ет­ся. Если разум­но выстро­ить после­до­ва­тель­ность согла­со­ван­ных шагов поис­ка и иссле­до­ва­ний, успех вполне веро­я­тен.

Не менее пер­спек­тив­ны­ми могут ока­зать­ся и направ­ле­ния исполь­зо­ва­ния ИИ, свя­зан­ные повы­ше­ни­ем эффек­тив­но­сти кон­тро­ля каче­ства предо­став­ле­ния меди­цин­ских услуг. Оттал­ки­ва­ясь от «стан­дар­та» лечеб­но­го про­цес­са, мож­но настра­и­вать ней­рон­ные сети на про­гно­зи­ро­ва­ние дли­тель­но­стей лече­ния, учи­ты­ва­ю­щих:

v основ­ной и сопут­ству­ю­щий диа­гно­зы;

v исто­рию забо­ле­ва­ния;

v струк­ту­ру предо­став­лен­ных услуг;

v резуль­та­ты про­ме­жу­точ­ных обсле­до­ва­ний;

v воз­ни­ка­ю­щие ослож­не­ния и пр.

При этом слу­чаи лече­ния, дли­тель­ность кото­рых суще­ствен­но отли­ча­ет­ся от про­гно­за, фор­ми­ру­е­мо­го ИИ, с боль­шой долей веро­ят­но­сти могут содер­жать «оши­боч­но» вне­сен­ную в систе­му инфор­ма­цию или зна­чи­мые про­пус­ки в струк­ту­ре опи­са­ний.

Для нагляд­но­сти в кон­це пуб­ли­ка­ции при­во­дит­ся при­мер вари­ан­тов настро­ек неслож­ной ней­рон­ной сети и срав­не­ние полу­чен­ных при этом резуль­та­тов.

Под­вод­ные кам­ни ИИ.

Немно­го подроб­нее оста­но­вим­ся на вопро­се закры­то­сти про­цес­сов под­го­тов­ки ИИ, исполь­зу­е­мо­го для опре­де­ле­ния на ран­них ста­ди­ях веро­ят­но­сти онко­за­бо­ле­ва­ний. Для пред­ва­ри­тель­ной оцен­ки адек­ват­но­сти про­гно­за было бы полез­но знать:

  1. На каких объ­е­мах выбор­ки изоб­ра­же­ний про­во­ди­лось обу­че­ние ИИ и какая аппа­ра­ту­ра для полу­че­ния изоб­ра­же­ний исполь­зо­ва­лась?
  2. Исполь­зо­ва­лись для обу­че­ния толь­ко рент­ге­нов­ские сним­ки, ком­пью­тер­ная томо­гра­фия и подоб­ные изоб­ра­же­ния, или сов­мест­но с ними рас­смат­ри­ва­лись выво­ды (заклю­че­ния) спе­ци­а­ли­стов, неструк­ту­ри­ро­ван­ный текст, сово­куп­ность зна­че­ний кон­крет­ных поня­тий и т.д.?
  3. Какую часть обу­ча­ю­щей выбор­ки состав­ля­ли сним­ки, отно­ся­щи­е­ся к гаран­ти­ро­ван­но здо­ро­вым паци­ен­там?
  4. Какую часть выбор­ки состав­ля­ли сним­ки, свя­зан­ные с гаран­ти­ро­ван­ной фик­са­ци­ей онко­за­бо­ле­ва­ний на ран­ней ста­дии?
  5. Какое зна­че­ние «MSE» (сред­не­квад­ра­тич­ная ошиб­ка) демон­стри­ро­ва­ла модель ИИ на тесто­вых выбор­ках?
  6. Нема­ло­важ­ной для задач кла­сте­ри­за­ции явля­ет­ся и инфор­ма­ция о про­цент­ных зна­че­ни­ях лож­но­по­ло­жи­тель­ных и лож­но­от­ри­ца­тель­ных про­гно­зов, полу­чен­ных при тести­ро­ва­нии настро­ен­ной ней­рон­ной сети.

Если соот­вет­ству­ю­щие све­де­ния доступ­ны, мож­но по край­ней мере оце­нить веро­ят­ную погреш­ность «пред­ска­за­ния» и сопо­ста­вить воз­мож­но­сти аппа­ра­ту­ры, на осно­ве кото­рой фор­ми­ро­ва­лось обу­ча­ю­щее мно­же­ство изоб­ра­же­ний, с каче­ством сним­ков и соот­вет­ству­ю­щих им запи­сей, име­ю­щих­ся в рас­по­ря­же­нии кон­крет­но­го меди­цин­ско­го учре­жде­ния.

Как уже опи­сы­ва­лось выше, ИИ совсем не обя­за­тель­но дол­жен поме­щать­ся в «обла­ко». В виде аль­тер­на­тив­но­го может рас­смат­ри­вать­ся под­ход, в рам­ках кото­ро­го настрой­ка ней­рон­ной сети про­во­дит­ся на осно­ве изоб­ра­же­ний и запи­сей, накоп­лен­ных самой меди­цин­ской орга­ни­за­ци­ей. Моду­ли, исполь­зу­ю­щие ИИ, мож­но было бы инте­гри­ро­вать с функ­ци­о­на­лом кон­крет­ной МИС МО. Аргу­мен­та­ция неце­ле­со­об­раз­но­сти тако­го под­хо­да, свя­зан­ная с яко­бы пря­мой зави­си­мо­стью точ­но­сти пред­ска­за­ний экс­перт­ных систем от объ­е­мов запи­сей в обу­ча­ю­щих выбор­ках, дале­ко не все­гда под­твер­жда­ет­ся прак­ти­кой. Объ­еди­не­ние дан­ных, порож­да­е­мых раз­лич­ны­ми мето­ди­ка­ми лече­ния (диа­гно­сти­ки), ско­рее вно­сят допол­ни­тель­ный «инфор­ма­ци­он­ный шум» в про­цесс обу­че­ния, чем повы­ша­ют его эффек­тив­ность.

Кро­ме того, настрой­ка ней­рон­ной сети, лежа­щей в осно­ве искус­ствен­но­го интел­лек­та, ничем неве­ро­ят­но слож­ным не явля­ет­ся. Про­цесс, по суще­ству, свя­зан с опре­де­ле­ни­ем «веса» (коэф­фи­ци­ен­та) каж­до­го из рас­смат­ри­ва­е­мых фак­то­ров (пара­мет­ров, рек­ви­зи­тов…) обу­ча­ю­щей выбор­ки с точ­ки зре­ния его вкла­да в зна­че­ние целе­во­го пока­за­те­ля. Про­цесс «про­гно­зи­ро­ва­ния» в при­ми­тив­ной интер­пре­та­ции сво­дит­ся, таким обра­зом, к рас­че­ту веро­ят­но­го зна­че­ния функ­ции цели путем «пере­мно­же­ния» соот­вет­ству­ю­щих «весо­вых пока­за­те­лей» моде­ли на зна­че­ния рек­ви­зи­тов, опи­сы­ва­ю­щих реаль­ный объ­ект (про­цесс) с уче­том воз­мож­ных откло­не­ний. Един­ствен­ным, пожа­луй, суще­ствен­ным отли­чи­ем ней­рон­ной сети от урав­не­ний линей­ной регрес­сии явля­ет­ся отказ от пред­став­ле­ний о нали­чии апри­о­ри нор­маль­но­го рас­пре­де­ле­ния зна­че­ний рас­смат­ри­ва­е­мых фак­то­ров вли­я­ния. Кро­ме того, алго­рит­мы «Big Data» дают воз­мож­ность вклю­че­ния в опи­са­ние моде­ли не толь­ко чис­ло­вых дан­ных, но и фраг­мен­тов тек­ста («коли­че­ствен­ные» и «номи­наль­ные» фак­то­ры соот­вет­ствен­но).

Вывод о при­над­леж­но­сти рас­смат­ри­ва­е­мо­го объ­ек­та или про­цес­са к той или иной груп­пе (к тому или ино­му кла­сте­ру, к тому или ино­му целе­во­му пока­за­те­лю) оце­ни­ва­ет­ся по зна­че­ни­ям рек­ви­зи­тов его опи­са­ния. Есте­ствен­но, что каче­ство про­гно­за (кро­ме, конеч­но, резуль­та­тов настрой­ки ней­рон­ной сети) напря­мую зави­сит от сте­пе­ни сов­па­де­ния соста­вов рек­ви­зи­тов опи­са­ния объ­ек­та со струк­ту­рой обу­ча­ю­щей выбор­ки. Если поня­тие (фак­тор) ана­ли­зи­ру­е­мой запи­си в обу­ча­ю­щей выбор­ке отсут­ству­ет, его зна­че­ние искус­ствен­ным интел­лек­том или игно­ри­ру­ет­ся, или вос­при­ни­ма­ет­ся в виде «шума». Еще боль­шую погреш­ность в про­гно­зы вно­сит отсут­ствие в запро­се зна­че­ний поня­тий, исполь­зо­вав­ших­ся при обу­че­нии. Послед­нее, прав­да, спра­вед­ли­во при «боль­шом весе» ука­зан­но­го поня­тия в настрой­ках ней­рон­ной сети.

Счи­та­ет­ся, что каче­ство резуль­та­та, полу­ча­е­мо­го с помо­щью ИИ, опре­де­ля­ет­ся чис­лом цик­ли­че­ских ите­ра­ций при его под­го­тов­ке. Они состо­ят из:

  1. Выяв­ле­ния мак­си­маль­но досто­вер­ных запи­сей, свя­зы­ва­ю­щих их рек­ви­зи­ты с надеж­ны­ми зна­че­ни­я­ми «функ­ции цели». Пред­став­ле­ние, что алго­ритм настрой­ки сам отсе­и­ва­ет весь «инфор­ма­ци­он­ный мусор» и незна­чи­мые фак­то­ры, дале­ко не все­гда оправ­ды­ва­ет­ся. Зача­стую избы­ток дан­ных при обу­че­нии не менее вре­ден, чем их недо­ста­ток.
  2. Исклю­че­ния из обу­ча­ю­щей выбор­ки (по мень­шей мере при исполь­зо­ва­нии ИИ для коли­че­ствен­но­го про­гно­зи­ро­ва­ния) кор­ре­ля­ци­он­ных зави­си­мо­стей меж­ду фак­то­ра­ми.
  3. Опре­де­ле­ния «весо­вых харак­те­ри­стик» учи­ты­ва­е­мых фак­то­ров и их соче­та­ний (настрой­ка ней­рон­ной сети).
  4. Оце­нок (на тесто­вых выбор­ках) каче­ства «пред­ска­за­ния» и попы­ток опре­де­ле­ния воз­мож­ных при­чин оши­бок в ситу­а­ци­ях, когда при­над­леж­ность слу­чая к кон­крет­но­му кла­сте­ру (к кон­крет­но­му зна­че­нию «функ­ции цели») оче­вид­на, а про­гноз отри­ца­те­лен.

Мно­гие раз­ра­бот­чи­ки декла­ри­ру­ют целе­со­об­раз­ность исполь­зо­ва­ния под­хо­дов к обу­че­нию, осно­ван­ных на обра­бот­ке всей сово­куп­но­сти дан­ных по объ­ек­там (про­цес­сам), опи­са­ния кото­рых хра­нят­ся в базах дан­ных МИС. При этом зна­чи­тель­ная часть таких опи­са­ний может пред­став­лять собой неструк­ту­ри­ро­ван­ный текст. Обна­де­жи­ва­ю­щие резуль­та­ты на этом пути демон­стри­ру­ют пока толь­ко про­цес­сы «уга­ды­ва­ния при­стра­стий» поль­зо­ва­те­лей соци­аль­ных сетей. На этом осно­ва­нии рекла­мо­да­те­лей мож­но, веро­ят­но, поздра­вить. Но согла­си­тесь, что рекла­ма и диа­гно­сти­ка раз­ли­ча­ют­ся не толь­ко сво­и­ми зада­ча­ми, но и ответ­ствен­но­стью за резуль­тат. Допол­ни­тель­но насто­ра­жи­ва­ет и то, что, по мне­нию неко­то­рых бан­ки­ров, паде­ние эффек­тив­но­сти кре­ди­то­ва­ния в ряде слу­ча­ев может объ­яс­нять­ся имен­но излишне актив­ным внед­ре­ни­ем тех­но­ло­гий ИИ в про­це­ду­ры одоб­ре­ния кре­ди­тов.

В каком направ­ле­нии дви­гать­ся, или «вме­сто заклю­че­ния»

Никто не оспа­ри­ва­ет утвер­жде­ния, что тех­но­ло­гии ИИ могут эффек­тив­но рабо­тать. Поэто­му важ­но, и имен­но на пер­вом эта­пе, опре­де­лить наи­бо­лее пер­спек­тив­ные направ­ле­ния их исполь­зо­ва­ния и после­до­ва­тель­ность необ­хо­ди­мых для это­го шагов. Как уже упо­ми­на­лось, при­ем­ле­мые резуль­та­ты демон­стри­ру­ют пока толь­ко воз­мож­но­сти искус­ствен­но­го интел­лек­та в части ана­ли­за изоб­ра­же­ний. Но это совсем не озна­ча­ет, что всем име­ет смысл сосре­до­та­чи­вать­ся имен­но на этой про­бле­ма­ти­ке. Жела­ю­щих и уже нако­пив­ших опре­де­лен­ный опыт рабо­ты в этом направ­ле­нии вполне доста­точ­но. Гораз­до полез­нее было бы обсу­дить и согла­со­вать под­хо­ды к ана­ли­зу воз­мож­но­стей ней­рон­ных сетей, свя­зан­ных с диа­гно­сти­кой, с оцен­ка­ми рис­ков и с про­гно­зи­ро­ва­ни­ем исхо­дов забо­ле­ва­ний.

Раци­о­наль­ной, как нам кажет­ся, мог­ла бы стать сле­ду­ю­щая после­до­ва­тель­ность шагов:

  1. Выбор несколь­ко круп­ных феде­раль­ных или реги­о­наль­ных меди­цин­ских цен­тров, име­ю­щих мно­го­лет­ний опыт экс­плу­а­та­ции совре­мен­ных ком­пью­тер­ных инфор­ма­ци­он­ных систем.
  2. Согла­со­ва­ние сов­па­да­ю­щих по целе­вым функ­ци­ям задач, реше­ние кото­рых воз­мож­но на осно­ве при­вле­че­ния тех­но­ло­гий ИИ, при дого­во­рен­но­сти об исполь­зо­ва­нии цен­тра­ми раз­лич­ных под­хо­дов к настрой­ке ней­рон­ных сетей (раз­лич­ные раз­де­лы элек­трон­ных меди­цин­ских карт, струк­ту­ри­ро­ван­ный или неструк­ту­ри­ро­ван­ный текст, дан­ные объ­ек­тив­ных иссле­до­ва­ний или заклю­че­ния, сде­лан­ные на их осно­ве спе­ци­а­ли­ста­ми и т.д.).
  3. Под­го­тов­ка моде­лей (ядер) для ИИ и оцен­ка про­гно­сти­че­ских воз­мож­но­стей соот­вет­ству­ю­щих экс­перт­ных систем при рабо­те с паци­ен­та­ми МО, ресур­сы МИС кото­рых исполь­зо­ва­лись для фор­ми­ро­ва­ния обу­ча­ю­щих выбо­рок.
  4. Реа­ли­за­ция попыт­ки «обме­на моде­ля­ми» (или исход­ны­ми мас­си­ва­ми дан­ных для обу­че­ния ИИ) меж­ду цен­тра­ми. Резуль­та­том долж­но стать сопо­став­ле­ние про­гно­сти­че­ских воз­мож­но­стей ИИ на осно­ве исполь­зо­ва­ния аль­тер­на­тив­ных обу­ча­ю­щих выбо­рок в каче­стве тесто­вых (про­ве­роч­ных). В слу­чае удо­вле­тво­ри­тель­но­го резуль­та­та — про­вер­ка воз­мож­но­сти настрой­ки ней­рон­ной сети на объ­еди­нен­ных набо­рах запи­сей. В слу­чае неуда­чи — ана­лиз эффек­тив­но­сти срав­ни­ва­е­мых моде­лей и выбор наи­бо­лее раци­о­наль­но­го вари­ан­та базо­во­го обу­че­ния систе­мы.

При ско­ор­ди­ни­ро­ван­ных дей­стви­ях реа­ли­за­ция подоб­но­го про­ек­та вполне мог­ла бы уло­жить­ся в 6 меся­цев. При этом мог­ли бы быть полу­че­ны отве­ты на весь­ма важ­ные вопро­сы:

  1. Како­ва про­гно­сти­че­ская воз­мож­ность спе­ци­а­ли­зи­ро­ван­ных экс­перт­ных систем, обу­чен­ных на раз­лич­ных по струк­ту­ре и соста­ву мас­си­вах дан­ных?
  2. Како­ва про­гно­сти­че­ская воз­мож­ность экс­перт­ных систем, обу­чен­ных на мас­си­вах дан­ных, полу­чен­ных из внеш­них МИС?
  3. Повы­ша­ет­ся ли про­гно­сти­че­ская воз­мож­ность экс­перт­ных систем при их обу­че­нии на выбор­ках дан­ных, объ­еди­ня­ю­щих мас­си­вы с раз­лич­ны­ми набо­ра­ми поня­тий (рек­ви­зи­тов)?
  4. Име­ет ли смысл стан­дар­ти­за­ция струк­ту­ры дан­ных и соот­вет­ству­ю­щих сло­ва­рей МИС с целью фор­ми­ро­ва­ния обу­ча­ю­щих выбо­рок для настрой­ки ней­рон­ных сетей, при­год­ных для эффек­тив­но­го исполь­зо­ва­ния в экс­перт­ных систе­мах раз­лич­ных меди­цин­ских орга­ни­за­ций?

При­мер для нагляд­но­сти

В каче­стве при­ме­ра исполь­зо­ва­ния искус­ствен­но­го интел­лек­та в меди­цин­ской орга­ни­за­ции рас­смот­рим про­стень­кую зада­чу, свя­зан­ную с про­гно­зи­ро­ва­ни­ем про­дол­жи­тель­но­сти лечеб­но­го про­цес­са. Для настрой­ки необ­хо­ди­мой нам моде­ли (ядра ИИ) исполь­зо­вал­ся алго­ритм DeepLearning. Соот­вет­ству­ю­щая обу­ча­ю­щая выбор­ка состо­я­ла из 3000 запи­сей и вклю­ча­ла в себя зна­че­ния сле­ду­ю­щих пока­за­те­лей:

  1. Вре­мен­ной интер­вал (дни) от момен­та поступ­ле­ния паци­ен­та в ста­ци­о­нар до его окон­ча­тель­ной выпис­ки (функ­ция цели).
  2. Воз­раст и пол паци­ен­та.
  3. Отде­ле­ние выпис­ки из ста­ци­о­на­ра.
  4. Диа­гноз выпис­ки.
  5. Коли­че­ство пере­во­дов меж­ду отде­ле­ни­я­ми в про­цес­се лече­ния.
  6. Вид опе­ра­ци­он­но­го вме­ша­тель­ства и дли­тель­ность его ожи­да­ния.
  7. Нали­чие и коли­че­ство ослож­не­ний.

Пер­вый (упро­щен­ный) вари­ант реа­ли­за­ции алго­рит­ма при­вел к фор­ми­ро­ва­нию моде­ли, «MSE» кото­рой опре­де­ля­лось зна­че­ни­ем 34,53. Услож­не­ние настро­ек (харак­те­ри­стик) алго­рит­ма при­ве­ло к сни­же­нию это­го пока­за­те­ля до зна­че­ния 28,89. Резуль­тат нас не удо­вле­тво­рил. Поэто­му сле­ду­ю­щий цикл обу­че­ния мы про­ве­ли, вве­дя в состав обу­ча­ю­щей выбор­ки дан­ных два допол­ни­тель­ных пара­мет­ра:

  1. Нали­чие сопут­ству­ю­ще­го забо­ле­ва­ния.
  2. Факт отли­чия пер­во­на­чаль­но уста­нов­лен­но­го (пред­ва­ри­тель­но­го) диа­гно­за, или диа­гно­за поступ­ле­ния от диа­гно­за выпис­ки.

Постро­ен­ная на этих дан­ных модель про­де­мон­стри­ро­ва­ла суще­ствен­но луч­ший резуль­тат («MSE»=10,67). Услож­нив настрой­ки ней­рон­ной сети (суще­ствен­ное уве­ли­че­ние «скры­тых сло­ев», уве­ли­че­ние чис­ла «эпох» и т.д.), мы столк­ну­лись с уве­ли­че­ни­ем вре­ме­ни настрой­ки моде­ли в 5 раз при повы­ше­нии каче­ства про­гно­за на 12% («MSE»=9,4). В дан­ном слу­чае затра­ты на улуч­ше­ние моде­ли себя, види­мо, не оправ­ды­ва­ют. Гораз­до эффек­тив­нее было бы в дан­ном слу­чае занять­ся поис­ком допол­ни­тель­ных фак­то­ров, вли­я­ю­щих на резуль­тат.

На рисун­ке 1 при­ве­де­ны фраг­мен­ты про­гно­зов, свя­зан­ных с запи­ся­ми по лечеб­ным про­цес­сам, кото­рые были под­го­тов­ле­ны само­сто­я­тель­но и никак не свя­за­ны с дан­ны­ми, исполь­зо­ван­ны­ми для настрой­ки ней­рон­ной сети и с про­цес­сом обу­че­ния как тако­вым. «Пер­вый – вто­рой» и «Тре­тий – чет­вер­тый» столб­цы сопо­став­ле­ния отно­сят­ся к резуль­та­там про­гно­зи­ро­ва­ния на осно­ве пер­вой и вто­рой моде­ли.

Рис. 1

Рису­нок 1. Соот­вет­ствие «про­гно­за ИИ» (дли­тель­ность лечеб­но­го про­цес­са), полу­чен­но­го на осно­ве исполь­зо­ва­ния раз­ных моде­лей, реаль­ным дан­ным, полу­чен­ным из опи­са­ний неза­ви­си­мых лечеб­ных про­цес­сов.

Пер­вое, что бро­са­ет­ся в гла­за:

  1. Чис­ло «улуч­ше­ний» и «ухуд­ше­ний» про­гно­зов, полу­чен­ных при исполь­зо­ва­нии уточ­нен­ной моде­ли, по отно­ше­нию к пер­во­му резуль­та­ту настрой­ки ИИ при­мер­но оди­на­ко­вы. То есть, улуч­ше­ние «MSE» моде­ли на 12% прин­ци­пи­аль­ных изме­не­ний в ито­го­вый резуль­тат не вно­сит.
  2. Про­гноз по кор­рект­ным запи­сям (про­цесс № 36): уточ­нен­ная модель улуч­ша­ет­ся, а «выбро­сы» ста­но­вят­ся еще более оче­вид­ны­ми (про­цес­сы №№ 41 и 46). Это может явить­ся доста­точ­ным осно­ва­ни­ем для ана­ли­за соот­вет­ству­ю­щих запи­сей заин­те­ре­со­ван­ны­ми лица­ми.
  3. Моде­ли устой­чи­вы. Повтор­ный про­гноз неза­ви­си­мых опи­са­ний полу­чен­ные ранее резуль­та­ты сохра­ня­ет и не зави­сит от после­до­ва­тель­но­сти рас­смот­ре­ния запи­сей.

В заклю­че­ние еще раз хоте­лось бы под­черк­нуть, что попыт­ки внед­ре­ния эле­мен­тов «искус­ствен­но­го интел­лек­та» в рабо­ту меди­цин­ских орга­ни­за­ций ста­но­вят­ся совре­мен­ны­ми реа­ли­я­ми раз­ви­тия здра­во­охра­не­ния. И очень не хоте­лось бы, что­бы необ­ду­ман­ные спон­тан­ные реше­ния или не под­креп­лен­ные надеж­ны­ми экс­пе­ри­мен­та­ми заяв­ле­ния эти про­цес­сы затор­мо­зи­ли, отбро­си­ли, или поро­ди­ли мне­ние об их непри­ме­ни­мо­сти в зада­чах, свя­зан­ных с меди­ци­ной.

07 июня / 2019
Автор: Валерий Пулит
Фотографии: Unspalsh