Hugging Face, daha az vektörle arama eğitimini anlattı

**+++++**::. ......... ..::**++++++**:.. *+++++++*::.. ........ ..:**++++++**::... *+++++++*::... .......... ..:**+++++**:::... **+++++**::........::::::.. .::*******:::.... ***++***:::.....:::*****::.. ..::***::::.....: :*****:::.....:::********:.. ..::::::........: ::::::........::**+++++**:.. ......... ..: ....... ...::*+++++++*::.. ........ .. .... ..::*+++++++*::.. .......... .. ... .::**+++++**::........::::::.. . .. ..:***++***:::.....:::*****::. . .. ..::*****:::.....:::********:.. . :. ...::::::........::**+++++**:.. .. :. ....:..... ...::*+++++++*::.. ... :.. ........ ..::*+++++++*::.. ..... :... ......... .::**+++++**::........::::: ::.........::::... ..:***++***:::.....:::****: ::......::::*:::.. ..::*****:::.....:::******* .....:::*******:.. ...::::::........::**+++++* ....:::**++++**::. ....:..... ...:**+++++++ ...::**++++++**:.. ........ ..:**+++++++ ..:**++++++**:... ......... .::**+++++* ..:**++++++**::.........::::... ..:***++*** .::**++++**:::......::::*:::.. ..::*****:: ..:*******:::....:::*******:.. ...:::::::. ..::::::::......:::**++++**::. ....::.... ...::::.........::**++++++**:.. ........ ......... ..::**++++++**:.. ......... ........ ..:**++++++**::.........::::... ...::.... .::**++++**:::......::::::::.. ::::::.. .::*******:::....:::*******:.. *****::.. ..::::::::......:::**++++**::. *++***:.. ...::::.........::**++++++**:.. ++++**::. ......... ..::**++++++**:.. +++++*::.. ........ ..:**++++++**::... .. +++++*::... ....::.... ..:***++++**::....... ++++**::.......:::::::.. .::*******:::....::: *****:::....::::*****::.. ..:::*::::......:::* **::::.....:::***++***:.. ...::::.........::** :::........::**+++++**::. ......... ..::** ... ..:**+++++++*::.. ........ ..:** . ..::*++++++**::... .....:.... ..:** .::**+++++**::.......:::::::.. .::* ..:********:::.....:::*****::. ..:: ..::*****:::.....:::***++***:.. ...: ...::::::........::**+++++**:.. ..... ......... ..:**+++++++*::.. ...... ........ ..::*++++++**::... ......... . ......... .::**+++++**::........::::::.. .......:::::... ..:********:::.....:::*****::. ....:::****::.. ..::*****:::.....:::***++***:. ..:::*******::. ...::::::........::**+++++**:. .::***+++++*::. .......... ...:**+++++++*:: .::**++++++**:.. ........ ..:**++++++**:: ..:**++++++**:... ........ .::**+++++**:: ..:**++++++**::........:::::... ..:********::: .::**+++***::......::::***::.. ..::*****:::.. ..:******:::.....:::*******:.. ...::::::..... ..::::::::......::***++++**::. .......... ...:::.... ...::**++++++**:.. ........ ........ ..:**++++++**:... ........ ...... ..:**++++++**::........:::::... :::... .::**+++***::......::::**:::.. :::.. ..:******:::.....:::*******:.. **::.. ..::::::::......:::**++++**::. +**:.. ...:::..... ...::**++++++**:.. +**::. ........ .::**++++++**:... . ++*::.. ........ ..:**++++++**::......... +**::... ....:::.... .::**+++***::......:::: ***::.......:::::::.. .::******:::.....:::*** **::.....:::******::.. ..::::::::......:::**++ ::......::***+++***:.. ...:::..... ...::**+++ ........::**+++++**::. ........ ..::**+++ ..:**+++++++*::.. ........ ..:**+++ ..::*++++++**::... .....::.... ..:***++ .::**++++***::.......:::::::.. .::**** ..:********::.....:::******::.. ..::::: ..:::***:::......::***+++***:.. ...:::. ...:::::.........::**+++++**::. ........ ......... ..:**+++++++*::.. ........

Vektör sayısını azaltırken kaliteyi korumak

Hugging Face’in 11 Kasım tarihli teknik yazısı, benzer token vektörlerini birleştiren pooling yöntemini eğitim aşamasına taşıyor. Amaç, büyük belge koleksiyonlarının depolama ihtiyacını düşürürken arama kalitesini korumak.

Yazıdaki deneyde belge vektörleri dörtte bire indirildiğinde, standart eğitim NanoBEIR nDCG@10 değerinin yüzde 94,6’sını koruyor. Pooling-aware eğitimde bu oran yüzde 97,8’e çıkıyor.

Tekrarlanabilir bir örnek sunuluyor

Sentence Transformers ile eğitim örneği ve yöntem açıklaması paylaşılıyor. Verilen oranlar o deneyin veri ve ayarlarına ait; başka bir arama koleksiyonunda aynı kazanç ayrıca ölçülmeli.

Vektör sayısını azaltırken kaliteyi korumak

Tekrarlanabilir bir örnek sunuluyor

Diğer haberler

OpenAI ve Upwork, AI’ın serbest çalışmaya etkisini inceledi

OpenAI, eğitimde AI rehberliği raporunu yayımladı

HOPE, MoE modellerini küçültürken uzman ilişkilerini hesaba katıyor

Vektör sayısını azaltırken kaliteyi korumak

Tekrarlanabilir bir örnek sunuluyor

Diğer haberler

OpenAI ve Upwork, AI’ın serbest çalışmaya etkisini inceledi

OpenAI, eğitimde AI rehberliği raporunu yayımladı

HOPE, MoE modellerini küçültürken uzman ilişkilerini hesaba katıyor