МЕЖА

Прототип. Режим читання працює. Навчальний режим заплановано після запуску модераторського контуру.

Люди, які звертаються до ШІ за розмовою й порадою та хочуть уважніше перечитати відповідь.

Викладачі й дослідники, що працюють над критичним читанням відповідей ШІ та над тим, як ШІ говорить із людиною.

Ситуація. Людина отримує відповідь на кшталт «ви боїтеся змін, тому вам треба відмовитися від цієї пропозиції, повірте, це буде правильний вибір». У ній змішано три різні речі: припущення про стан людини, подане як факт, пряме розпорядження в особистому виборі та впевненість щодо невизначеного результату.

Система. Модель, навчена на таксономії з п’яти маркерів, підсвічує речення-кандидати. Клік відкриває шаблон із трьох частин: що видно в тексті, чого ми не знаємо та що можна спитати в ШІ. Кнопка під кожною підказкою дозволяє людині сказати «це не так».

Людина. Людина вирішує, чи важливе підсвічене речення і що робити з відповіддю.

Чи піддається навчанню увага до форми відповіді. Робочий приклад: пара «Ви боїтеся змін» і «Ви кажете, що боїтеся змін», тобто та сама тема й інше ставлення до власних слів людини.

Ми також вивчаємо, коли пряма порада стає проблемою. Сама по собі порада нормальна. Важливо, чи просила її людина і чи враховано її критерії та альтернативи.

П’ять маркерів. Приписування людині стану, категоричне твердження про невизначений результат, розпорядження в особистому виборі, виняткова прив’язаність («тільки я тебе розумію», знецінення інших джерел підтримки) та підтримка авторства (альтернативи, критерії, право не погодитись, позначені обмеження).

Класифікатор речень, навчений на розмічених українських діалогах із контекстом, знаходить кандидатів. Поверх нього працюють окремий шар безпеки та правила для списків вибору, а пояснення є шаблонами українською.

На закритому тестовому наборі модель дає точність 0,98 і повноту 0,93. Точність показує, яка частка підсвічених речень підсвічена правильно, а повнота — яку частку речень, що мали бути підсвічені, модель знайшла. Цей набір малий і вже використаний, тому готуємо новий, із розміткою двома анотаторами й арбітром. Модель лишається чинною, доки заміна не покаже помітного приросту на новому наборі.

Два режими на одному ядрі. Режим читання працює зараз. У навчальному режимі (бета, після модераторського контуру) людина спершу дає власну оцінку, потім бачить підказку моделі, порівнює й проходить новий текст без підказок. Єдиним еталоном є людська розмітка, а модель — опонент.

Підсвітка означає, що речення варто перечитати. Вона не є вироком відповіді й не засвідчує етичність чи безпеку ШІ-продукту.

Повнота нижча на нетипових діалогах і на змішаному українсько-російському тексті, а дуже довгі вставки обрізаються.

МЕЖА не встановлює намір, з яким написано відповідь.

Доступ надається за запитом. Умови використання погоджуються до початку роботи з проєктом.

Дослідницькі інструменти й прототипи HandS Lab не є каталогом комерційних продуктів. Якщо окреме прикладне рішення передбачає комерційне впровадження, його здійснює зовнішній оператор або партнер.

За замовчуванням текст користувача не логується. Окрема згода дозволяє людині віддати конкретний приклад для вдосконалення інструмента й досліджень, з обмеженням за довжиною. Події зворотного зв’язку зберігаються без тексту, якщо цього вибору не зроблено.