Sistem de search cat mai destept cu PHP

(Dragoi Ciprian) #1

Se da o baza de date mysql de produse care are clasicele campuri titlu,descriere,brand,culori etc. Vreau sa fac un sistem de cautare cat mai apropiat de relevanta google. Adica sa stie sinonime, greseli mici de scriere, importanta anumitor termeni impreuna sau cat de apropiati sunt, de numarul de repetitii.

Am acces la un server pe care pot instala ce vreau si ideal ar fi sa stie sa se conecteze direct la sql-ul de baza (care e populat constant) si sa pot interoga direct din php.

As vrea niste recomandari de tehnologie care a fost deja folosita de voi si deja puteti evalua ca e una relativ usor de deprins, ofera documentatie, exista un community…adica una pe care chiar a-ti folosi-o la urmatorul proiect de gen.

Pentru a avea si un benchmark ma astept ca aceasta cautare sa dea rezultate in max 2s pt 1 milion de inregistrari in index.

10x

(Victor) #2

MySQL nu o sa fie niciodata eficient pentru asa ceva - uita-te la elasticsearch, e industry standard.

2 Likes
(Ionuț Staicu) #3

N-am folosit încă, dar ce zici tu sună ca un candidat pentru Elastic Search. Are fuzzy iar interogările sunt super rapide. Singura problemă ar putea fi la cerințele hardware (minimum 8Gb RAM, SSD).

Dacă nu te deranjează un SaaS, poți încerca Algolia.


Dacă vrei musai mysql și ești dispus să accepți niște compromisuri:

1 Like
(Mihai Nica) #4

Elasticsearch e făcut fix pentru situația descrisă de tine, dar e o curba de învătare semnificativă, mai ales dacă nu ai un sysadmin care să se ocupe de instalare/configurare/scalare cum trebuie.

1 Like
(Dragoi Ciprian) #5

elastic si sphinx mi-au aparut de cele mai multe ori in documentare pana acum

cumva am ramas cu impresia ca elastic e overhead pt ce-mi trebuie, adica stiu sigur ca n-or sa fie mai mult de 1 milion de rows si as vrea ca totul sa stea pe aceeasi masina ca un monolith, nu ma incalzeste ca functioneaza pe “hundred of machines with peta bytes”

sphinx pare ca a fost ceva acum cativa ani dar i-au luat-o altele mai scalabila in fata

(Georgiana Gligor) #6

Algolia e folosit pe site-ul symfony la cautare. Un fel de plug-n-play pt search. Are client PHP: https://github.com/algolia/algoliasearch-client-php

Buna si sugestia cu elastic search.
Din ce inteleg, OP cauta o librarie de genul asta: https://github.com/teamtnt/tntsearch

2 Likes
(Dragoi Ciprian) #7

algolia e o solutie easy to use dar scump pentru acest proiect

tntsearch pare ca se apropie de specificatii. am dubii de viteza avand in vedere ca inteleg ca tine index-ul intr-un fisier. incerc si revin cu feedback

(Dragoi Ciprian) #8

LE: am facut un test rapid cu tntsearch…

  1. foloseste ca bd un fisier .sql lite
  2. pt constructia unui index de 500k inregistrari (query cu conectare directa la mysql) a durat cam 30min
  3. pare ca returneaza doar primary key (pe care-l folosesti ulterior in query-ul catre bd-ul tau initial)
  4. da maxim 500 rezultate inapoi dar destul de rapid (20-40ms)
(Floris Stoica Marcu) #9

Tot de la baietii de la ElasticSearch, un serviciu numit SiteSearch: https://www.elastic.co/solutions/site-search.

(John Jhon) #10

putin offtopic: oare mai exista apache solr?
ceva mai ontopic: desi nu am ajuns sa implementez inca, elasticsearch era raspunsul pentru o intrebare similara la care am cautat raspuns in urma cu cateva luni.

(cosmos) #11

Wikipedia zice ca mai exista si ultima versiune este din martie 2019 :slight_smile:

(Gabriel Horatiu Petchesi) #12

Solr sau Elasticsearch ar fi cele mai bune doua solutii, ambele sunt facute pentru asa ceva.

Cateva chestii la care sa fii atent in cazul in care alegi una din solutiile respective:

  1. Schema documentului de indexat - alegerea potrivita a tipurilor de date si configurarea procesarilor la indexare si la cautare.
    Nu lasa configurarea default.
  2. Citeste despre stop words, stemming, synonyms si multe alte chestii ce trebuiesc configurate pentru a merge cautarea ok pe o anumita limba. Va trebui sa folosesti configurari/procesari/indexari diferite pentru fiecare cultura in parte.
  3. Nu stiu sa fie solutie out of the box care sa faca tot ce trebuie din prima zi, va trebui sa faci fine tuning la solutie pe parcurs, lumea in general crede ca alegi o solutie de genul si in mod magic cautarea functioneaza ok.
1 Like
(George Calianu) #13

@kleampa, presupunand ca ai folosi MySql, search-ul il faci intr-un singur tabel sau faci ceva join?

(Dragoi Ciprian) #14

@geosoft1 intr-un singur tabel innodb

intre timp am inceput ceva cu elasticsearch, instalarea a fost floare la ureche, acum ma dumiresc cu restul. deocamdata mi se pare dubios ca nu exista o varianta usoara pt a avea o interfata wyswyg pt a face diverse.

(cosmos) #15

Poti folosi Kibana pt ElasticSearch. Colegii mei au configurat indexi si alte nebunii cu ajutorul ei. Ai metrici de monitorizare din ce tin minte

(Dragoi Ciprian) #16

Am revenit cu concluzia. Un astfel de feature pare a fi un proiect in sine si nu vreau sa-l fac sa fie asa.

Pana la urma am facut un tabel separat de tip myisam care cloneaza informatiile despre produse (luate inclusiv din alte tabele) intr-un singur string (si deja procesat sa ignore stopwords, duplicates) pe care am facut un index fulltext.
Pare acceptabil de rapid so far (sub 1sec).

Adica intr-un final e o cautare simpla de tip MATCH AGAINST intr-un string de genul:

rochii femei casual verde rochie vanessa primavara

Nu stie inca de sinonime si fuzzy si nu m-am lamurit daca “boolean” ar da rezultate mai relevante decat “natural” dar pare un mare plus fata de ce era inainte.

Daca mai apar sugestii va rog sa fie legate strict de cautarea asta de tip fulltext in mysql.

(Floki) #17

Mă alătur tuturor celor care recomandă ElasticSearch. E un proiect în sine, dar mai mult de 2-3 zile nu îți ia. În timp înveți să-l configurezi și să întorci rezultate din ce în ce mai bune; la căutarea aia cu rochii ar fi ok ca primul rezultat să fie o categorie, apoi articole cu rochii în titlu și la urmă cele cu rochii în text; plus că pentru roochii și rochi o să obții cam aceleași rezultate.

Dacă nu, următoarea soluție e Google Custom Search (caută în indexul Google și apar diferențe, dar e mai ok ca search-ul full text în db).

Căutarea în db, mai bine o scoți de tot și lași doar navigarea prin categorii. În exemplul tău merge și cu unul și cu 2 de i, dar cu 3 nu, iar peste 90% din români nu știu câți de i să pună… pe lângă alte greșeli de gramatică, de tastare sau în textul tău.

(George Calianu) #18

Daca faci query intr-un singur tabel si nu folosesti operatorul like, cautarea (chiar dupa text) va fi sub o secunda chiar daca ai multe milioane de inregistrari.

(Dragoi Ciprian) #19

poti porni in 2-3 zile dar tot bagajul pe care tre sa-l porti ulterior in cazul meu nu-si justifica implementarea (ca one only developer pt un side project)

strict pt cazul meu pare ca functioneaza metoda asta. cautarea oricum porneste de la un autocomplete care-l duce spre categorii, branduri si combinatii si sub 10% mai ajung in cautarea fulltext

oricum e bine ca m-am lamurit si cu folosirea in practica a acestui elasticsearch. sigur ma va ajuta cu luarea unor decizii candva :slight_smile:

(Andrei Telteu) #20

Si eu am folosit tntsearch, care s-a mentionat mai sus.
L-am folosit in laravel pentru api-ul unei aplicatii mobile multitenant, cauta in produsele unui restaurant. Search-ul se face prin websockets, si este foarteeee rapid. L-am incetinit eu putin ca sa nu loveasca serverul la fiecare apasare de tasta (pentru ca este livesearch).
Are fuzzyness, poti tasta cuvinte gresit si le gaseste. Nu am avut ocazia sa il folosesc pe baze de date foarte mari.
Am folosit si elasticsearch si il recomand, este foarte avansat, dar putin mai greu de folosit.

1 Like