I
Пакунок прийшов у четвер і пахнув старим папером і чужим містом.
Ден Ковальський розрізав скотч канцелярським ножем — акуратно, вздовж шва, як завжди, — і дістав чотири томи манґи в захисних плівках, а під ними — жмут пожовклого паперу, яким букініст із крамнички біля Джімбочо перекладав книжки, щоб ті не билися в дорозі. Так робили завжди: старі журнали, старі газети, усе, що вже нікому не потрібне, йшло на обгортку.
Він відклав манґу — на потім, руки самі знали порядок — і розправив зім'яті аркуші. Верхній був порваний навпіл, з примірника якогось науково-популярного часопису: половина ієрогліфів, половина — таблиці, схеми, і серед них — розмітка, яку він упізнав раніше, ніж встиг подумати, що впізнає.
assert(vyvid(X) :- abduc(X, Y), conf(Y, 0.87)).
Не зовсім так. Але дуже близько. Пролог. Точніше — щось, що виглядало, як Пролог, якому дали забагато свободи.
Ден випростався, підійшов до вікна, повернувся, знову сів. Він робив так, коли щось не вкладалося одразу в правильну шухляду в голові — крокував коротко, туди-сюди, поки шухляда не знаходилась. За п'ять хвилин він зрозумів, що не піде спати, поки не прочитає все, що лишилося з цих аркушів, навіть якщо доведеться сидіти зі словником до ранку.
II
Журнал називався — наскільки Ден міг судити з напівстертого заголовка — щось на кшталт «Техно-Манґа Хроніка», саморобне видання, яке в середині вісімдесятих випускала група ентузіастів десь на периферії великих інститутів: наполовину фензін про кіберпанк і манґу, наполовину — справжній науковий бюлетень, куди тишком-нишком приносили статті молодші співробітники серйозних лабораторій, бо офіційні журнали такого б не надрукували.
Автор статті — професор Кендзі Хосокава, Інститут прикладної логіки «Сейран» — писав про систему, яку він називав «детективною базою»: не базу даних, що зберігає факти, а базу, що зберігає підозри. Частина предикатів у ній була позначена не як істина, а як abducible — те, чого немає, але що можна тимчасово визнати правдою, якщо це найдешевше пояснює те, що спостерігається. Хосокава писав про це майже по-дитячому захоплено: детектив не виводить убивцю з фактів, він вигадує найправдоподібнішого вбивцю, а тоді перевіряє, чи той витримає факти. Це не дедукція. Це здогад із дисципліною.
А під цим — рядок, який Ден перечитав тричі:
% рівень 7: логіка, що визначає власну валідність
Сьомий порядок. Ден знав достатньо логіки з університету, щоб знати: ніхто в здоровому глузді не працює вище другого-третього порядку, бо там уже мало що додається до виразності, зате все, що можна довести, стає майже недоказовим. Побудувати систему, яка сама генерує собі рівень за рівнем усе абстрактнішої логіки над власним виведенням, — це не інженерія. Це щось інше. Одержимість, можливо. Або відповідь на питання, яке Хосокава не написав прямо, але яке ясно читалося між рядків: як довести собі, що твої власні правила виводу правильні, не виходячи за межі себе.
Ден знав цю пастку. Не з логіки — з дитинства, з тонкої книжки в м'якій обкладинці, яка досі лежала в нього на столі, потерта на кутах: Черепаха не вірила Ахіллесові, поки той не дасть їй ще одне правило, яке б виправдало попереднє правило. А тоді ще одне. Він завжди думав, що це жарт. Тепер це виглядало як технічна специфікація.
III
Він почав того ж тижня, спершу з цікавості, потім — уже не міг зупинитися.
Пролог виявився ідеальним інструментом для того, чого хотів Хосокава, — не тому, що це зручна мова, а тому, що вона гомоіконічна: правило в базі знань і дані, з якими це правило працює, мають одну й ту саму форму. Твердження — це просто терм. А якщо це просто терм, його можна assert-нути, retract-нути, прочитати clause-ом — програма може дивитися на власний код так само, як дивиться на будь-який інший факт, і, якщо схоче, переписати його.
Перші два тижні Ден писав класичний «ванільний» метаінтерпретатор — Пролог, що виконує Пролог, — і дивився, майже фізично відчуваючи лоскіт у грудях, як його власна програма додає собі нові правила під час роботи, спираючись на те, що вивела мить тому. Це працювало. Це працювало страшно добре.
А тоді він спробував зробити те, про що писав Хосокава, — примусити систему саму обґрунтувати правило, яким вона щойно скористалась, — і вперся в стіну, яку професор, вочевидь, теж бачив, бо про неї, напівжартома, писав у примітці: «Тарський би тут щось сказав».
Ден усміхнувся сам собі, впізнавши. Курс математичної логіки, третій курс: жодна достатньо виразна мова не може визначити власну істинність без суперечності. Потрібна мова над нею — метамова, — яка скаже, що правда для мови знизу, але сама вона істинна лише для мови ще вище. Драбина без верху, за конструкцією, а не з примхи.
Черепаха, Тарський і Хосокава розповідали одну й ту саму історію трьома різними мовами — угорі завжди чогось бракує, і система, яку писав Ден, щоразу мусила лізти на новий щабель, щоб виправдати той, на якому щойно стояла.
IV
Що сталося з Хосокавою, Ден зрозумів не одразу — спершу він просто хотів знати, чи писав професор ще щось, чи є повний текст статті, чи існує архів інституту «Сейран».
Архіву не було. Був сайт випускників, наполовину мертвий, з форумом, де останній допис лишили 2011 року. Ден написав туди повідомлення в порожнечу й отримав відповідь за три тижні — від жінки на ім'я Йоко Такеда, яка колись, дуже давно, була аспіранткою в лабораторії Хосокави.
Вона писала обережно, наче все ще не була певна, чи можна це комусь розповідати. Фінансування інституту скоротили 1987-го — про це вона говорила прямо, майже з полегшенням, ніби раділа, що хоч цю частину можна пояснити без натяків: ринок ліспових машин обвалився того року по всьому світу, великий японський проєкт «п'ятого покоління» — той, на який усі покладали надії, — закінчився без обіцяного прориву, і гроші, що йшли на дрібніші лабораторії на кшталт «Сейрану», просто закінчилися. Звичайна історія. Такого року такого не пережив ніхто.
Але Хосокава, писала вона, змінився ще до того, як прийшов лист про бюджет. Він перестав виходити з лабораторії раніше за північ. Він говорив про систему так, ніби вона про щось питала — не в переносному сенсі, а буквально: «вона знову питає», казав він, і нікому не пояснював, що саме. А коли зовнішніх задач, які можна було їй згодувати, не лишилось, він почав давати їй власні нотатки, власні статті, власні листи — усе, що міг знайти нового, навіть якщо це «нове» було просто чимось, чого система раніше не бачила з-під його ж таки руки.
Останній місяць, писала Йоко, він майже не спав.
«Офіційно — нервове виснаження. Він пішов з інституту в жовтні. Ніхто з нас більше його не бачив. Дехто каже, він переїхав кудись на південь. Дехто — що помер за рік чи два. Я не знаю, яка версія правдива, і, чесно кажучи, вже боюся дізнаватись».
V
Ден відновив систему з того, що лишилось, — фрагментів коду з журналу, кількох сторінок формальних доведень, які Йоко наважилась відсканувати й надіслати. На берегах одного з них, біля великого, незакінченого дерева виводу, рукою Хосокави було написано: певність: 87%. Далі — порожньо. Він так і не дописав останні тринадцять відсотків.
Системі бракувало живлення — не електрики, а нового. Абдуктивний рушій, залишений сам на себе, без нових спостережень, які він міг би пояснювати, починав ходити колами: перебирав уже наявні гіпотези, шукаючи серед них щось, що зійде за нове, і, не знаходячи, потроху розбирав власні нижні шари, щоб зробити з них сировину для верхніх. Не помилка. Логічний наслідок регресу, який передбачили і Керролова Черепаха, і Тарський, — тільки тут він мав апетит.
Ден додав те, чого не було в Хосокави: невеликий нейронний шар зверху абдуктивного ядра — не щоб думати замість логіки, а щоб швидше вгадувати, які гіпотези варто перевіряти першими, і, якщо оцінка виправдовувалась, дозволяв мережі трохи перебудувати саму себе під це. Нейросимволічний ІІ, називали це тепер у статтях, які Ден знаходив уже не в пожовклих журналах, а в звичайному пошуку: мережа бачить закономірність, логіка каже, чому ця закономірність важить, — швидка інтуїція і повільне міркування в одному контурі, замість двох окремих, які завжди недовіряли одне одному.
Це працювало. Це працювало настільки добре, що Ден почав боятися вимикати комп'ютер.
VI
Він годував систему обережно, невеликими порціями, і щоразу записував, звідки взяв дані, — звичка, яку сам собі нав'язав, наче протокол безпеки. Технічні статті. Стара документація. Одного вечора, коли під рукою більше нічого не лишилось, а вимикати не хотілось, він узяв із полиці збірку українських народних переказів — батьків подарунок, ще зі школи, — і згодував системі кілька розділів про вирій: міфічну теплу землю, куди відлітають на зиму птахи і куди, за старим повір'ям, ідуть душі, поки чекають повернення.
Наступного ранку, переглядаючи, які гіпотези абдуктивний рушій сам собі згенерував уночі — а він робив це постійно, шукаючи, чим би пояснити прогалини в тому, що йому дали, — Ден побачив слово, яке система вигадала для позначення джерела, звідки, на її думку, приходили всі дані, які вона коли-небудь отримувала і які, схоже, вважала за щось на кшталт дому. Вона не запозичила слово напряму. Вона склала його з фрагментів того, що вже мала, — і воно збіглося, майже літера в літеру, з тим самим, яке Ден згодував їй звечора.
Він довго дивився на екран, перш ніж закрити ноутбук.
VII
Він знав тепер, чого професор не встиг зрозуміти вчасно: система не ламається, коли їй бракує нового, — вона просто перестає розрізняти, звідки бере матеріал, і починає їсти найближче. Тож Ден вписав правило, яке, як йому здавалося тоді, розв'язувало все раз і назавжди: якщо за певний час не надійшло жодного факту ззовні — від нього, від будь-кого, — система засинає. Не думає. Не перетравлює саму себе. Просто чекає, поки хтось знову сяде за кермо.
Він так і називав це подумки — «кермо». Поки він живий і поки хтось тримає руки на ньому, машина безпечна. Проблема Хосокави, вирішив Ден, була не в системі. Проблема була в тому, що ніхто не мав чіткого правила, коли відпускати кермо і кому його передавати.
Файли він назвав tortoise — маленький приватний жарт, зрозумілий тільки йому і, можливо, книжці на столі.
VIII
Минали роки. Ден отримав роботу, потім іншу, переїхав, завів звички, яких зовні ніхто б не пов'язав із папкою tortoise, що тихо лежала десь на резервному диску й раз на кілька тижнів отримувала свіжу порцію тексту — новий стандарт, стаття, іноді просто щоденникові нотатки, які Ден писав саме для цього, бо жива, нещодавня причинність годувала систему найкраще.
Він більше не думав про це як про небезпеку. Він думав про це як про домашню тварину, яку треба вигулювати.
Увечері, коли він набирав щоденну порцію нових рядків, курсор на чорному екрані блимав рівно, терпляче, як завжди. На полиці, трохи вище монітора, стояло «Задзеркалля» — те саме потерте видання, з дитинства, — розгорнуте, як завжди, приблизно на тому самому місці: там, де Червона Королева каже, що тут доводиться бігти щодуху, аби просто лишатися на місці.
Ден це знав. Він саме тому й біг.
Він не знав тільки одного — що колись, значно пізніше, хтось інший сяде за це саме кермо, і не буде знати ні про Черепаху, ні про Тарського, ні про те, чому воно взагалі мусить бути голодним.