ChatGPT зна много о свету, али ништа о вашој фирми. Не зна ваше процедуре, уговоре, ценовник, техничку документацију ни одлуке од прошле године. А када не зна, често измишља. RAG је техника која решава оба проблема.
RAG у једној реченици
RAG (Ретриевал Аугментед Генератион) значи да AI пре одговора претражи ваше документе, узме најрелевантније делове и на основу њих напише одговор, уз навођење извора.
Замислите колегу који је прочитао целу документацију фирме, има савршено памћење и увек каже "ово пише у Правилнику о раду, члан 12". То је добар RAG асистент.
Како ради, корак по корак
- Прикупљање докумената: PDF, Word, Excel, скенирани документи, интранет, Цонфлуенце, SharePoint, емаил.
- Припрема: чишћење текста, OCR за скенове, уклањање дупликата, додавање метаподатака (датум, аутор, тип, верзија).
- Дељење на целине (цхункинг): документи се деле на смислене делове, на пример по члановима закона или поглављима приручника.
- Векторизација: сваки део се претвара у низ бројева који описује његово значење (embedding) и чува у векторској бази.
- Претрага: када корисник постави питање, и оно се претвара у вектор и систем проналази делове са најсличнијим значењем.
- Генерисање одговора: AI модел добија питање и пронађене делове и пише одговор искључиво на основу њих.
- Цитирање: уз одговор се приказују извори, па корисник може да провери.
Шта је "векторизација података" и зашто је важна
Класична претрага тражи исте речи. Ако у документу пише "отказни рок", а ви питате "колико дуго морам да радим после давања отказа", класична претрага вероватно неће пронаћи одговор. Векторска претрага хоће, јер упоређује значење, а не речи. То је разлог зашто RAG делује "паметно".
Зашто RAG не измишља (колико год је могуће)
Модел добија јасно упутство: одговарај само на основу приложених делова, а ако одговор не постоји, реци да не знаш. Уз то:
- сваки одговор има извор,
- систем мери колико је пронађени садржај релевантан,
- питања без доброг одговора се бележе, па се документација допуњује.
Где RAG доноси највише вредности
- Право и порези: претрага прописа, мишљења и судске праксе. Такав систем смо направили за велику консултантску кућу.
- Интерна база знања: процедуре, правилници, HR питања, онбоардинг.
- Техничка документација: производња, сервис, IT подршка.
- Продаја и подршка купцима: спецификације производа, ценовници, услови.
- Уговори: проналажење одредби, поређење верзија, рокови.
RAG или фине-тунинг?
Фине-тунинг мења понашање модела (стил, формат), али није добар начин да модел "научи" чињенице које се мењају. RAG је бољи за знање фирме јер се документи ажурирају одмах, без поновног тренирања. Детаљније у тексту RAG или фине-тунинг.
Безбедност и приватност
Добар RAG систем поштује дозволе: корисник добија одговор само из докумената којима има приступ. Подаци могу да остану у EU цлоуду, на вашем серверу или потпуно локално, уз локалне моделе.
Колико кошта и колико траје
Прототип на узорку ваших докумената правимо за 2 до 4 недеље, MVP за око 2 месеца, а веће системе за 3 до 5 месеци. Оквирни трошак векторизације можете израчунати у RAG калкулатору.
Следећи корак
Погледајте услугу AI асистента над документима или нам пошаљите упит са кратким описом ваше документације. Направићемо прототип на узорку да видите резултат пре одлуке.
Честа питања
Шта значи RAG?
Ретриевал Аугментед Генератион, односно генерисање одговора уз претходну претрагу. AI прво пронађе релевантне делове ваших докумената, па на основу њих напише одговор.
Да ли RAG захтева тренирање модела?
Не. Модел се не тренира на вашим подацима. Документи се индексирају, а модел их чита само када су релевантни за питање.
Колико кошта RAG систем?
Мањи асистенти крећу од око 5.000 €, а велики системи са хиљадама докумената и више улога раде се фазно. Месечни трошак инфраструктуре и модела је најчешће 100 до 500 €.
Реците нам шта вас успорава
Одговарамо у року од једног радног дана. Први разговор и процена су бесплатни.
Пошаљи упит
