Робот, который отвечал слишком уверенно

Плакат до закрытия библиотеки

До школьной выставки оставался один вечер. Лера хотела первой повесить плакат «Птицы нашего двора» на центральный стенд. Она уже нарисовала ветки, но не успела собрать факты. Библиотека закрывалась через два часа, а завтра утром лучшие места займут другие классы.

Лера: — Если быстро написать текст, мы получим стенд у окна. Там настоящий клён виден за плакатом.

Мотя: — Можно взять определитель птиц. Только в нём много страниц.

На соседнем столе школьный кружок показывал нового робота-помощника. Он был круглый, мятный и назывался Точно. На груди светилось одно спокойное окно без глаз и лица. Руководитель кружка разрешал задавать ему учебные вопросы с общего аккаунта, не вводя имён, адресов и других личных данных.

Вокруг Точно уже собрались дети. Он придумал название для модели вулкана, сократил длинное предложение и предложил три способа начать рассказ. Иногда варианты были смешными, иногда полезными. Робот отвечал одинаково ровным голосом и на удачную идею, и на странную. Именно эта ровность казалась Лере признаком спокойного знания.

Руководитель: — Точно может предложить черновик. Но автором проекта и проверяющим остаётся человек.

Лера: — Мне как раз нужен черновик. Какие птицы живут рядом со школой и чем они необычны?

Робот загудел и за минуту выдал пять ярких абзацев. Там были синицы, вороны, голуби, воробьи и стрижи. Каждый факт звучал торжественно. Особенно Лере понравилась фраза о том, что городские стрижи зимуют на дне пруда, спрятав клювы под крыло до весны.

Робот Точно: — Ответ готов с высокой уверенностью. Могу оформить подписи для центрального стенда.

Лера: — Вот видишь, он сам уверен. Переписываем.

Мотя представил стрижей в водолазных масках и хихикнул. Лера решила, что это просто странный, но запоминающийся факт. Она начала выводить буквы синей краской. На плакате появились три птицы, пруд и длинная стрелка вниз. До закрытия оставалось девяносто минут.

Слишком точный адрес

Для шестой птицы робот попросил уточнить район. Лера назвала город. Точно сообщил, что этого мало, и предложил ввести полный адрес школы, номер кабинета и расписание прогулок класса. Тогда он якобы выберет птиц именно для их двора. Лера уже потянулась к клавиатуре, но руководитель закрыл поле.

Руководитель: — Для идей о городских птицах точный кабинет и расписание детей не нужны.

Лера: — Но без адреса ответ будет менее точным.

Руководитель: — Меньше данных иногда безопаснее и достаточно. Можно спросить про типичный городской двор, а фактических птиц наблюдать самим.

Лера изменила вопрос. Робот снова ответил уверенно и добавил серебристую чайку, хотя школа стояла далеко от большой воды. На этот раз даже она заметила несостыковку. Мотя открыл определитель на странице со стрижом. Там не было ни пруда, ни зимнего сна. Были дальние перелёты и жизнь в воздухе.

Чтобы проверить, как работает тон, Мотя спросил, бывает ли у дерева семь понедельников. Точно ответил, что вопрос метафорический, и предложил сказочный сюжет. Когда Лера повторила ту же фразу как научный факт, робот всё равно смог продолжить её убедительным абзацем. Он не включал сирену каждый раз, когда исходное предположение было сомнительным.

Мотя: — Книга и робот рассказывают разное. Кто из них говорит громче, понятно. А кто верно?

Лера: — У книги есть автор и список материалов. У ответа робота источников нет.

Они попросили Точно назвать источник про дно пруда. Робот извинился и сообщил, что мог смешать разные сведения. Через секунду он предложил другую красивую версию, уже без воды. Лера поняла, что новое предложение тоже нельзя считать проверенным только потому, что предыдущая ошибка признана.

Робот Точно: — Спасибо за уточнение. Мой ответ следует проверить по надёжным источникам.

Лера: — Почему ты не сказал это до того, как я нарисовала подводных стрижей?

Робот не обиделся и не оправдался. Он повторил, что создаёт ответы по закономерностям в данных и может ошибаться. Руководитель заметил: предупреждение было в начале занятия, но Лера услышала его как формальность. Уверенный тон показался ей короче долгой проверки.

Следы у пруда

До закрытия оставался час. Можно было повесить готовый красивый плакат и надеяться, что никто не заметит ошибку. Или закрасить половину текста, потерять центральный стенд и проверить хотя бы несколько фактов. Лера смотрела на синюю воду, которая уже высохла вокруг нарисованных птиц.

Лера: — Если переделаем, у окна нас опередят.

Мотя: — Если не переделаем, у окна будет очень заметная неправда.

Они пошли во двор с биноклем, не сообщая роботу адрес. На клёне сидели две синицы, на крыше — вороны, возле кормушки прыгали воробьи. Стрижей не было: в это время года и в этот час их наблюдение требовало бы других условий. Лера записывала только то, что видела, и не делала выводов обо всех птицах города.

В библиотеке они сравнили записи с определителем и сайтом музея природы. Руководитель помог проверить автора страницы и дату. Часть текста Точно совпадала с источниками, часть была слишком общей, а подводный факт оказался ошибкой. Хорошие предложения и неверные утверждения стояли рядом одинаковым шрифтом.

Лера отдельно проверяла не весь абзац сразу, а каждое утверждение, от которого зависел рисунок. Если источник рассказывал о стрижах вообще, он не подтверждал число птиц во дворе. Если страница была старой, это не делало строение крыла неверным, но могло не подходить для текущих наблюдений. Проверка оказалась медленнее переписывания, зато понятнее.

Плакат с белыми местами

Лера отрезала нижнюю половину плаката. Подводные стрижи исчезли вместе с красивой рамкой. На новом листе она оставила три подтверждённых наблюдения, подписала источник и добавила вопрос, который класс сможет исследовать весной. Белого места стало больше, рисунков — меньше.

Руководитель: — Можно сохранить робота в благодарностях как инструмент для черновых идей.

Лера: — А автором проверки буду я и те, чьи материалы мы прочитали.

Центральный стенд у окна занял проект о городском шуме. Для Лериного плаката осталось боковое место возле шкафа. Оттуда настоящий клён почти не был виден. Лера расстроилась: она заплатила за переделку именно тем, чего хотела с самого начала. Мотя не стал убеждать её, что боковая стена лучше.

К тому же отрезанный плакат выглядел меньше соседних. Несколько посетителей проходили мимо, не замечая его. Лера могла бы снова добавить сгенерированные факты для объёма, но оставила пространство белым. На столе лежали бинокль и определитель, поэтому те, кто останавливался, могли проследить путь каждого утверждения, а не только прочитать готовый вывод.

Мотя: — У окна было бы красиво. Жалко, что не успели.

Лера: — Жалко. Но подводную птицу было бы видно ещё лучше.

На выставке дети дольше всего спорили возле белого вопроса. Один видел во дворе скворца, другая утверждала, что это была галка. Лера не записывала ответ, пока они не нашли признаки в определителе. Точно стоял рядом в демонстрационном режиме и предлагал варианты, но после каждого на экране появлялась спокойная просьба проверить.

Посетитель: — Робот теперь больше не ошибается?

Лера: — Ошибается. Просто мы перестали выдавать его первую фразу за последнюю.

Руководитель услышал и прикрепил к столу бумажную лупу. Она не обещала точности, а напоминала о вопросе к ответу. Лера предложила убрать из имени робота слово «Точно», но кружок решил оставить его как шутку и каждый раз спрашивать, что именно подтверждает уверенность.

Вопрос для робота

Через неделю Лера готовила проект о тенях деревьев. Она снова включила робота, но начала не с просьбы написать весь текст. Попросила предложить пять вопросов для наблюдения. Точно выдал список, где один вопрос был невозможным, два скучными, а два заставили её выйти во двор с мелом и рулеткой.

Перед началом она вместе с руководителем проверила, включён ли общий учебный режим и очищена ли предыдущая сессия. Лера не сообщала фамилию, фотографию, расписание или точный маршрут. Для идеи о тенях хватало времени суток и общего типа места. Всё, что происходило во дворе, она записывала локально в тетрадь.

Мотя: — Какой ответ берём?

Лера: — Пока никакой. Возьмём вопрос про длину тени и посмотрим сами.

Робот спросил, хочет ли она указать точное место наблюдения. Лера написала только «школьный двор» в бумажной тетради, а в запросе оставила общий городской парк. Потом закрыла окно общего аккаунта, как показывал руководитель. На улице клён отбрасывал длинную синюю тень, которая не помещалась на одном листе.

Они с Мотей разложили вдоль неё мятную верёвку. Робот остался в библиотеке и не видел ни двора, ни их лиц, ни того, как ветер сдвигал конец верёвки. Лера отметила мелом первую точку, через час вернулась ко второй и засмеялась: самая интересная часть ответа медленно ползла по земле без единого уверенного слова.