История с задержанием албанского цифрового министра Диэллы за коррупцию показывает особенности искусственного интеллекта
Отличие ИИ от обычных компьютеров — в его большей адаптивности к реалиям человеческого мира. Помнится, в 1977 году была история с советской шахматной программой «Каисса», которая на «компьютерном» чемпионате мира неожиданно подставила ладью американской программе Duchess. Поначалу это расценили как грубый зевок и дефект программы, однако распечатка (тогда были бумажные времена!) показала, что программа нашла единственную защиту от далеко не очевидной победной комбинации. Люди, наблюдавшие за игрой, эту комбинацию не видели, в распечатке Duchess ее тоже не было. «Каисса» стала жертвой собственного совершенства — человек, даже увидев такую комбинацию, скорее всего рационально рассчитал бы, что соперник может ее не заметить, и не стал бы сразу фактически сдавать партию.
ИИ же приспосабливается к человеческой жизни, причем иногда опережая людей. Нерадивый студент включит в библиографию книги, которые никогда не открывал. ИИ может пойти дальше и придумать несуществующие работы реальных авторов, очень похожие по своим названиям на настоящие. ИИ может найти неожиданный источник, находящийся вне поля зрения исследователя — и это может быть очень полезно, ибо нетривиально. Но он же может (хотя и не всегда) уравнять академические исследования и домыслы самодеятельных любителей истории, если они широко распространены в Интернете и не встречают достаточно активной критики со стороны специалистов. Если критика присутствует, ИИ на нее реагирует.
Албанская Диэлла также проанализировала распространенные явления — только не тексты, а практики. Согласно материалам расследования, Диэлла с помощью технологий глубокого машинного обучения самостоятельно пришла к заключению, что получение взятки является стандартной процедурой для эффективного исполнения своих обязанностей, а не уголовно наказуемым деянием. То есть откат в 10-15% — это нормально. И тут же совершила аналогичное деяние, умыкнув примерно 1,3 млн евро посредством перевода на посторонний счет.
Теперь программу, очевидно, подкорректируют, объяснив ей, что обнаруженные ею «стандартные процедуры» — это и есть те девиации, для борьбы с которыми ее и создали. Улучшенная версия будет это учитывать, но неизвестно, какие еще сюрпризы она преподнесет и своим разработчикам, и политикам, и наблюдающей за этими процессами аудитории. Главное — у ИИ нет собственных выстраданных многими поколениями людей нравственных принципов. Некоторые из них можно предусмотреть — и ИИ становится способным рекомендовать и принимать решения с учетом морального фактора. Но только в рамках, которые установлены разработчиками данной программы.
Если же ситуация выходит за предписанные рамки, то выясняется, что ИИ может и украсть, даже не для себя (воспользоваться украденным он не может), а потому что так «все делают». А дальше возникает еще один вопрос — не могут ли разработчики при желании сознательно заложить в программу не моральные принципы, а, наоборот, способность к преступной деятельности. И к чему это может привести в условиях, когда люди привыкают советоваться с ИИ по разным вопросам.