Nu prezentați scorul BM25 drept grad de încredere
BM25 ordonează documentele prin statisticile colecției. Un scor prezentat drept grad de încredere poate transforma căutarea într-o regulă de afaceri fragilă.
Un scor de căutare poate ordona util documentele fără să indice probabilitatea ca vreunul să răspundă la întrebare. BM25 intră în această categorie. Dacă un produs transformă scorul brut într-un procent de încredere sau folosește un prag neexplicat pentru a accepta rezultate, îi atribuie mecanismului de ordonare o responsabilitate de afaceri încă nejustificată. Consecința poate fi o etichetă convingătoare al cărei sens se schimbă odată cu documentele din colecție.
Privind din noiembrie 2026, evenimentul relevant din săptămâna de 13 noiembrie 2024 a fost o explicație, nu lansarea unui algoritm nou de căutare. Evan Schwartz și-a publicat eseul despre BM25 la 19 noiembrie. Întrebarea sa despre compararea scorurilor rămâne utilă deoarece obligă echipa unui produs să spună ce anume intenționează să compare.
Citiți componentele înaintea numărului
Schwartz explică o ordonare lexicală construită din termenii căutării și statisticile colecției. Termenii rari contribuie diferit față de cei comuni; repetarea are un aport tot mai mic; lungimea documentului este raportată la media colecției. Scorurile combină contribuțiile termenilor căutați. Aceste componente descriu indicii din text, fără să fie o probabilitate calibrată a unui răspuns corect.
Eseul susține și că scorurile aceluiași document pot fi comparate între căutări în aceeași colecție. Este o afirmație cu limite, în raționamentul autorului. Nu ar trebui transformată nici în interdicția oricărei comparații, nici în promisiunea că scoruri oarecare din indexuri diferite au aceeași scară.
Distincția contează înainte ca matematica să ajungă în interfață. „Primul rezultat” descrie o ordine. „Încredere de nouăzeci la sută” exprimă o afirmație despre incertitudine. Echipa care înlocuiește prima etichetă cu a doua schimbă promisiunea produsului fără să adauge dovezi care să o susțină.
Potrivirea cuvintelor poate fi exact ce cere sarcina
Imaginați-vă o arhivă de suport cu numere de model și note de reparație. Un client caută identificatorul exact al unui model. Potrivirea lexicală poate păstra acel termen precis, în loc să întoarcă o discuție despre un produs în linii mari asemănător. Este un caz de utilizare propus, nu evaluarea unui sistem AL+.
Luați acum un document care repetă identificatorul în fiecare subsol de pagină. Numărarea aparițiilor fără limitare ar recompensa prea mult repetiția. Saturația face ca aparițiile suplimentare să contribuie tot mai puțin. Un manual lung are și mai multe ocazii să conțină un termen decât o notă scurtă; normalizarea lungimii ajustează acest dezechilibru. Niciuna dintre ajustări nu știe dacă pasajul rezolvă efectiv problema clientului.
Raritatea introduce o relație cu întreaga colecție. Dacă un identificator apare în foarte puține documente, găsirea lui poate fi informativă. Dacă arhiva primește ulterior multe documente despre același produs, raritatea se schimbă. Textul documentului poate rămâne neatins, deși relația sa cu întreaga colecție se modifică.
Așa puteți explica scorurile unui responsabil de produs. Numărul descrie o potrivire în anumite condiții. Nu este o proprietate permanentă ascunsă în document, pe care fiecare motor de căutare ar urma să o descopere.
O comparație stabilă cere mai mult decât o întrebare neschimbată
Să presupunem că funcționalitatea propusă ascunde rezultatele aflate sub un anumit scor. Înainte de a accepta regula, păstrați fixe versiunea colecției, prelucrarea căutării și configurația scorului atunci când examinați exemple. Altfel, schimbarea rezultatelor poate veni din documente noi, din tratarea diferită a termenilor sau dintr-o setare de ordonare modificată. Sunt intervenții diferite, cu remedii diferite.
Comparația între căutări cere atenție suplimentară. O întrebare mai lungă poate aduna contribuțiile mai multor termeni, în timp ce un identificator scurt poate avea unul singur. Chiar și într-o colecție fixă, sensul practic al totalurilor trebuie evaluat. Argumentul limitat al lui Schwartz despre comparație nu oferă etichete care să spună că un rezultat este suficient pentru a răspunde unei cereri de suport.
Definiți separat acel rezultat urmărit. Pentru o interfață de consultare, succesul poate însemna aducerea manualului relevant aproape de început. Pentru un răspuns automat, poate fi nevoie de un pasaj care susține direct afirmația trimisă. Un scor util primei sarcini nu o poate demonstra pe a doua doar fiindcă ambele folosesc aceeași casetă de căutare.
O evaluare propusă ar folosi întrebări reprezentative și aprecieri umane asupra utilității rezultatelor. Includeți răspunsuri absente și identificatori exacți, alături de formulări obișnuite. Sunt cazuri de evaluare propuse, nu experimente efectuate pentru articol. Consemnați separat utilitatea ordonării și corectitudinea răspunsului generat ulterior.
Colecția face parte din comportamentul produsului
Adăugarea documentelor este tratată adesea drept întreținere obișnuită a conținutului. Într-o funcționalitate bazată pe prag, ea poate schimba și comportamentul. Responsabilul arhivei și cel al căutării au deci nevoie de o înțelegere comună asupra lansărilor. Un import mare ar trebui să declanșeze verificarea deciziilor bazate pe scoruri, nu doar numărarea fișierelor indexate.
O aplicație care filtrează accesul adaugă o întrebare de proiectare: ce statistici ale colecției folosește implementarea pentru utilizatorul care caută? Nu presupuneți că toate motoarele le recalculează la fel. Documentați indexarea și filtrarea efective înainte de comparații între utilizatori. Scopul este identificarea unei dependențe de implementare, nu afirmația că BM25 aplică singur permisiunile documentelor.
O listă simplă poate fi suficientă
Cel mai puternic contraargument este că multe produse nu trebuie să afișeze scorurile. O listă utilă, fragmente clare și o legătură spre sursă pot servi bine cititorii. Un model de încredere poate adăuga cost fără să îi ajute să aleagă. Răspunsul potrivit poate fi eliminarea procentului, fără înlocuirea motorului de căutare.
Pragurile pot rămâne utile după evaluare în condiții definite. Limitați-le scopul, revedeți-le când se schimbă colecția și pregătiți un comportament adecvat pentru lipsa rezultatelor. Ele ar trebui să exprime o alegere verificată a produsului, fără să pretindă că BM25 măsoară direct adevărul.
Pentru o aplicație de căutare la comandă, începeți prin a numi decizia luată după căutare. Dacă un om alege documentul, îmbunătățiți ordinea și explicația. Dacă software-ul acționează pe baza rezultatului, cereți dovezi pentru acea acțiune dincolo de scorul brut. Păstrați sensul numărului legat de colecție și de sarcină.
Paul