- Szoszo94: Xiaomi Mi Router 3G - Padavanra fel!
- gban: Ingyen kellene, de tegnapra
- eBay-es kütyük kis pénzért
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- btz: Internet fejlesztés országosan!
- antikomcsi: Celebtanya - Farm VIP V.
- Luck Dragon: Asszociációs játék. :)
- Bevezetés a wokok világába
- sziku69: Fűzzük össze a szavakat :)
- weiss: Pant* rant
Új hozzászólás Aktív témák
-
consono
nagyúr
Hát, mondjuk log pattern analizálásra gondoltam. Én privátban tényleg leginkább csak RAG-ra használtam kis modellt, arra tényleg jó, meg dokumentumokat összefoglalni pár kulcsszóra, arra is meglepően jó volt a gemma2:2b ollama-val. (Én rossz szokásként Notepad++-ba írok be mindent, amivel dolgozom, de sajnos rendetlen vagyok, van 2-300 nyitott file-om benne mindig, arra kezdtem el search engine-t írni, hogy megtaláljam mi hol van
De a POC óta nem volt időm foglalkozni vele. Persze, jobb lenne átszokni mondjuk Obsidian-ra, de az nálunk céges környezetben nincs engedélyezve). -
ddekany
veterán
-
ddekany
veterán
Az LLM-ek alkalmazhatóságának fő korlátja, hogy nincs meg a józan eszük (common sense), és úgy általában mentálisan instabilak, nem jók önkorrekcióban. Ami a kis modelleket illeti, jelenleg nem tudunk olyat, hogy a "józan esze" (ami szakmai ismeretet meg műveltséget nem igényel) legyen olyan mint a nagy modellé, de aztán megtakarítunk paramétereket azon, hogy azon felül csak egy szűk szakami területet ismer. A kis model úgy általában beszámíthatatlanabb lesz, hiába kíméled meg a sok felesleges tudástól.
-
Robitrix
senior tag
Bőven van területe a kisebb modelleknek is. Számos területen hoznak létre kisebb szakmai AI-kat. Mondjuk egy orvosi területen müködő AI-nak az orvosi szak cikkek és publikációk anyagaiban kell jeleskedni. Nem feltélenül a régészeti szak anyagokban. Így azokhoz kisebb modellek és kisebb hardver is elégséges. Pár hónapja olvastam, hogy akkoriban már úgy 200 körülire becsülték a létre hozott AI-kat. Azóta lehet, hogy már van vagy 300 is... Vélhetően dinamikusan nővekedik a számuk. A világban. Főleg ha képes lesz kezelni azokat hardverileg egy erős munkaállomás vagy szerver is. Aztán pár 10 vagy 100 ezer dollárból alá lehet rakni az elégséges hardvert. És akkor tömegesen képesek lesznek cégek is saját AI-kat építeni és üzemeltetni.
-
ddekany
veterán
Több mint egy éve már felkerült ez az arxiv-ra (CompactifAI: Extreme Compression of Large Language Models using Quantum-Inspired Tensor Networks). Ha hozná amit ígér, már sokat halottunk volna róla (azok, akik követik a szakmának szóló AI-s híreket).
De a POC óta nem volt időm foglalkozni vele. Persze, jobb lenne átszokni mondjuk Obsidian-ra, de az nálunk céges környezetben nincs engedélyezve).
Új hozzászólás Aktív témák
- Windows 10 11 Pro Office 19 21 Pro Plus Retail kulcs 1 PC Mac AKCIÓ! Automatikus 0-24
- Windows 10/11 Home/Pro , Office 2024 kulcsok
- Kaspersky, McAfee, Norton, Avast és egyéb vírusírtó licencek a legolcsóbban, egyenesen a gyártóktól!
- 27%-OS ÁFÁS SZÁMLA I Jogtiszta Microsoft digitális és fizikai termékek I DIGITALKEYZ.COM
- Eladó Steam kulcsok kedvező áron!
- Bomba ár! HP ProBook 440 G6 - i5-8GEN I 8GB I 256SSD I HDMI I 14" FHD I Cam I W10 I Gari!
- ÁRGARANCIA! Épített KomPhone Ryzen 7 9800X3D 32/64GB RAM RTX 5070 12GB GAMER PC termékbeszámítással
- ÁRGARANCIA!Épített KomPhone Ryzen 5 4500 16/32/64GB RAM RX 6500 XT 4GB GAMER PC termékbeszámítással
- BESZÁMÍTÁS! MSI B450M R5 5500 16GB DDR4 512GB SSD RTX 2060 Super 8GB Rampage SHIVA ADATA XPG 600W
- AKCIÓ! 6TB Seagate SkyHawk SATA HDD meghajtó garanciával hibátlan működéssel
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Promenade Publishing House Kft.
Város: Budapest