Microsoft Web IQ надає агентам ШІ Bing Grounding API
Microsoft анонсувала Web IQ, набір базових API, які дозволяють агентам ШІ отримувати інформацію з пошукового індексу Bing.
Компанія називає Web IQ «пошуковою системою систем ШІ». Там, де Bing допомагає людям знаходити веб-сторінки, Web IQ допомагає агентам штучного інтелекту знаходити інформацію, яку вони можуть використовувати під час міркування над завданням.
Що робить Web IQ
Web IQ використовує перебудований стек пошуку на основі індексу Bing, змінюючи спосіб індексування, ранжування та вибору вмісту. Агенти штучного інтелекту здійснюють багаторазовий пошук у жорстких часових обмеженнях за кілька етапів.
API повертає уривки та «об’єкти структурованих доказів» замість повних веб-сторінок, тому моделі AI отримують лише корисні частини сторінки. Кожен маркер, який обробляє модель штучного інтелекту, коштує грошей і збільшує затримку, тому менше маркерів із кращою інформацією означає дешевші та швидші відповіді.
Корпорація Майкрософт резюмує це як «менша кількість токенів, кращі відповіді, нижча вартість дзвінка».
Претензії щодо продуктивності
Корпорація Майкрософт використовує GDSAT (задоволення заземленням), щоб визначити, чи інформація є свіжою та надійною. Вони стверджують, що результати Web IQ вищі, ніж у конкурентів, на основі 3000 вибіркових запитів.
Компанія повідомляє про час відгуку менше 165 мс на P95, майже в 2,5 рази швидше, ніж у конкурентів, на основі тестів у п’яти центрах обробки даних.
Щодо ефективності токенів, Microsoft повідомляє, що Web IQ забезпечує таку ж якість із меншою кількістю токенів, оскільки обсяг результатів збільшується.
Елементи керування видавця
Web IQ дотримується тих самих правил виключення роботів і налаштувань видавців, які вже виконує Bing. Компанія також працює з IETF та іншими галузевими групами над стандартами доступу систем ШІ до веб-контенту.
Технічні деталі
Web IQ використовує модель вбудовування з відкритим кодом Microsoft для пошуку відповідного вмісту та додаткові моделі для ранжирування та вибору фрагментів.
Згідно з оголошенням, ці моделі навчені тому, як вони будуть використовуватися в міркуваннях штучного інтелекту, а не для автономних тестів.
Для швидкого пошуку в масштабі система розширює DiskANN, технологію Microsoft для пошуку великих індексів без завантаження всього в пам’ять.
Чому це важливо
Microsoft працювала над цим. Інструменти для веб-майстрів Bing додали дані цитування штучного інтелекту в лютому, зіставили грунтовні запити на цитовані сторінки в березні та попередньо переглянули частку цитувань на SEO Week. Ці інструменти показують видавцям, як системи штучного інтелекту використовують їхній контент, а Web IQ — це зворотний бік цього. Це те, що системи штучного інтелекту використовували б, щоб отримати вміст.
У Web IQ інформація повертається у вигляді уривків, а не повних сторінок. Те, що робить сторінку добре ранжируваною в традиційному пошуку, і те, що робить уривок корисним для заземлення, можуть не збігатися, як описано в публікації Microsoft про структуру заземлення на початку цього року.
Дивлячись вперед
Web IQ приймає заяви про зацікавленість, але не оголосив про загальну доступність, ціну або які платформи ШІ використовуватимуть його. Корпорація Майкрософт не повідомила, чи використовує існуюче заземлення Copilot або Bing Chat Web IQ, чи Web IQ є окремою від цих систем.
