Фактчекінг-стартап бореться з галюцинаціями ШІ після залучення 1 млн євро
Фактчекінг-стартап прискорив плани позбавлення від галюцинацій штучного інтелекту після залучення 1 млн євро фінансування.
Норвезька компанія Factiverse використовує машинне навчання для перевірки контенту, згенерованого штучним інтелектом. Інструменти компанії автоматично виявляють неточні результати. Ці помилки тепер часто спричиняють суперечки.
Наприклад, адвокат з Нью-Йорка змушений був перепрошувати за використання фальшивих судових посилань, отриманих з ChatGPT. CNET довелося виправити 41 з 77 статей, написаних за допомогою інструменту ШІ. Bing AI від Microsoft допустив численні помилки в аналізах фінансових звітів. Чат-бот компанії також стверджував, що шпигував за працівниками.
Factiverse пропонує рішення для цих проблем. Заснована у 2019 році, компанія створює запатентовані моделі, які аналізують контент, згенерований ШІ. Ці моделі використовують дослідження Вінаї Сетті, співзасновника та технічного директора компанії. Сетті також є доцентом машинного навчання в Університеті Ставангера. Понад десять років він займається дослідженням текстового та графового майнінгу для фактчекінгу.
Дослідження Сетті стали основою для редактора Factiverse AI. Запущений минулого року, цей інструмент виявляє упередження та помилки в текстах, створених такими системами, як ChatGPT. Він також знаходить надійні джерела для своїх висновків.
Фінансування для фактчекінгу
Новий грошовий влив буде спрямований на подальше вдосконалення. Серед інвесторів – Муршид Алі, засновник Huddlestock і Skyfri, Йоган Олав Кос, підприємець та чотириразовий олімпійський чемпіон зі швидкісного бігу на ковзанах, і Ясмін Наміні, колишній керівник у New York Times. Інвестиційні компанії Herfo та Valide Invest також зробили свій внесок.
Генеральний директор та співзасновник Factiverse, Марія Амелі, оголосила про залучення коштів.
"Ці інвестиції дозволять нам прискорити розробку наших важливих рішень для фактчекінгу та надати ще більше можливостей бізнесу впевнено використовувати потужність ШІ", – сказала вона.
Окрім фінансування, Factiverse також запустила програму тестування для журналістів. Користувачі отримають 30 днів безкоштовного доступу до технології фактчекінгу. Платіжна карта для пробного доступу не потрібна.
Factiverse хоче, щоб новий пробний період та кошти розширили базу користувачів стартапу. Еспен Егіл Хансен, голова компанії, вважає галюцинації ШІ загальною проблемою.
"Випадки, коли компанії стикаються з юридичними наслідками за фактичні помилки у своїх чат-ботах, вже є реальністю", – сказав він. "Якщо ШІ стає глибше інтегрованим у наше повсякденне життя, забезпечення точності моделей ШІ – це не лише питання доброго бізнесу; це основа, на якій будуються демократичні цінності".