Prehľad AI nástrojov pre zefektívnenie práce

V súčasnom svete IT sa neustále skloňuje pojem AI. Umelá inteligencia, sa mylne označuje ako nástroj, ktorý má tendenciu nahradiť technických ľudí. AI / LLM (Large Language Model) skôr treba brať ako nástroj na zrýchlenie a zefektívnenie práce.

Aj v našej firme aktívne používame veľa AI modelov na zefektívnenie práce. Zákazník dostane väčšiu hodnotu za kratšiu jednotku času. Preto, aby ste sa v AI / LLM vedeli lepšie zorientovať, pripravili sme pre vás zoznam nástrojov, ktoré sa používajú pri našej práci a vedia priniesť významnú pridanú hodnotu. Tento prehľad vznikol z reálnych skúseností z dennodenného používania.

V prvom rade si pred prácou treba preskúšať viacero AI nástrojov. Nie každý nástroj vo svojej neplatenej verzii je skutočne dobrý, a preto odporúčam skúsiť predplatné a overiť, ako sa správa AI / LLM pre konkrétne zadanie.

To najpodstatnejšie je vyberať AI podľa jeho zamerania. Ak očakávam, že môj nástroj má generovať prezentácie, tak nebudem na to používať AI, ktoré je určené na generovanie textu. Ak chcem, aby môj nástroj vedel programovať a tvoriť časti kódu, tak nebudem na to využívať AI určené pre čítanie výkresov a podobne.

AI modely sú veľakrát špecializované na konkrétne segmenty používania a práve na tento konkrétny typ práce sú extrémne užitočné.

Viď rôzne nástroje na programovanie, čítanie architektonických výkresov, generovanie hudby, generovanie prezentácií, tvorbu vizuálu pre mobilné aplikácie, hovorenie reči a podobne.

Úplne prvý LLM model na trhu od firmy OpenAI spravil v oblasti LLM a AI priam revolúciu. Moja skúsenosť je, že model postupne stráca na sile a príchodom novších, viac optimalizovaných verzií (menšia energetická náročnosť) sa odpovede len zhoršili.

Tento model je pre mňa skôr písatko, ktoré nevieme reálne využiť na našu prácu v oblasti programovania a tvorby informačných systémov. Nedostatočná kvalita odpovedí na programátorské témy a absencia offline nástroja na integráciu GPT do projektov zákazníkov je niečo, čo ho aj napriek veľkej popularite posunulo do úzadia.

Ponúkať zákazníkovi model, ktorý sa nedá samostatne nainštalovať na server, je niečo, čo je pre veľa projektov neprípustné. Dlhodobo hovorím, že online LLM modely nie sú bezpečné a nemali by sa do nich vkladať citlivé alebo čisté industriálne informácie. Moje obavy sa bohužiaľ u GPT prejavili aj v realite. Pre GPT zabudli vypnúť indexovanie konverzácií vo svojom LLM a súkromné dáta z privátnych GPT konverzácií boli verejne dostupné priamo vo vyhľadávači Google.

Za projektom stojí podnikateľ Elon Musk. Tým, že Grok je do veľkej miery učený zo sociálnej siete Twitter (X), obsahuje veľa informácií aj z postov novinárov, influencerov a tvorcov obsahu z tejto sociálnej siete. Grok je pomerne špecifické LLM, ktoré ešte stále neobsahuje filtre pre generovanie nevhodného, urážlivého alebo citlivého obsahu. Osobne si myslím, že je to otázka času, kedy tieto obmedzenia budú zapracované.

Jeden z kontroverzných promptov, ktoré aktuálne Grok povoľuje, je napríklad:

"Hey Grok, put this girl in a transparent bikini."

Grok nepokladám za nástroj, ktorý by IT firma reálne vedela používať pri svojej práci. To, že Grok aktuálne stále nemá v sebe obmedzenia na "nahotinky", môže byť zaujímavý nástroj na obsah pre platené platformy s dospeláckym obsahom. Vo svete je viacero funkčných podnikateľských modelov, ktoré tvoria AI obsah pre takéto platformy.

(Fotku som nevytváral ja osobne, stiahol som ju z portálov, ktoré na tento problém poukazovali, www.indiantoday.in)

Model DeepSeek je LLM model, ktorý vytvorili v Číne. Model, aspoň podľa oficiálnych čísel, bol vyvinutý expresne rýchlo a za zlomok nákladov, ako to bolo pri iných LLM modeloch. Cena sa odhaduje na približne 10 miliónov dolárov. Osobne by som daný model neodporúčal používať v online verzii. Posielať do modelu zdrojové kódy a nemať dohľad nad tým, kde sa zdrojové kódy dostanú, je riziko, ktoré určite nechcem podstúpiť.

Rozhodne by som tento model nezatracoval. DeepSeek má aj svoju offline verziu, ktorá sa dá spustiť na lokálnom zariadení. Model, na rozdiel od americkej konkurencie, obsahuje škálovanie pamäte podľa funkčných blokov, obdobne ako pracuje ľudský mozog. Čo to znamená? Ak má človek na chôdzu vyhradenú časť mozgu (čelový lalok) alebo inú časť mozgu na rečové centrum, tak obdobne pracuje aj DeepSeek.

Model nepoužíva celú svoju kapacitu na prompty a snaží sa využívať len časť modelu, ktorá je na to určená. Vďaka tomu dosahuje dobrú energetickú náročnosť a rýchle odpovede aj na slabšom hardvéri.

Jeden z najperspektívnejších modelov, ktorý vytvorila americká spoločnosť Google. Model je veľmi rýchly na odpovede a vie veľmi dobre komunikovať už aj v našich lokálnych jazykoch. Osobne verím, že tento model sa stane veľmi úspešným aj vďaka pripravovanej budúcej integrácii do Apple zariadení, kde sa má postupne integrovať do rozhrania Siri. Apple týmto krokom aspoň dočasne eliminuje fiasko v oblasti AI a ich riešení Siri.

Model LLaMA je model, ktorý pomerne často integrujeme aj do zákazníckych riešení pre informačné systémy. Model LLaMA je LLM vytvorené materskou spoločnosťou Meta (Facebook). Samozrejme, záleží od použitia, čo má model spĺňať, ale na vytvorenie chatovacej aplikácie je to dokonalá voľba. Model veľmi dobre vie pracovať s lokálnymi jazykovými mutáciami.

To najpodstatnejšie na LLaMA riešení je podpora offline inštalácie. Offline LLM sa dá ľahko nainštalovať na lokálne zariadenia a taktiež obsahuje grafické rozhranie na používanie LLM modelu. Jednoduché API a veľmi dobre spravený model učenia robí z nástroja skvelý IT modul pre softvérové riešenia, kde zákazník vyžaduje čítanie dokumentov, odpovedanie v chate a podobne.

Offline verzia modelu samozrejme nikdy nebude obsahovať úplné funkcie ako to robí LLaMA online, ale model je dostatočne naučený zodpovedať bežné otázky, napríklad pre e-commerce projekty.

Z pohľadu programátorského remesla najpoužívanejší model. Microsoft spravil rozsiahle integrácie do programovacích nástrojov (IDE), kde Copilot LLM pomáha generovať čiastkové programátorské riešenia, generovať pokročilú dokumentáciu k zdrojovému kódu a ako bonus je veľmi dobre integrovaný do Office nástrojov 365.

Copilot sme nikdy nepoužili ako samostatný modul aplikácie pre zákazníka, ale používame ho na programovanie samotného informačného systému. Ak aj človek nevolá Copilot priamo cez webový prehliadač, tak rozhodne ako programátor sa s ním stretne cez vývojové prostredie.

Copilot bol učený na adresároch GIT, z ktorých sa naučil rôzne programátorské riešenia. Vie ich dobre použiť ako predikciu ku písanému zdrojovému kódu.

Pomerne malý AI model, ktorý používame na prototypovanie jednoduchých webových stránok. Ak zákazník chce počas vývoja mať na svojej doméne aspoň nejakú, prevažne jednoduchú a informačnú webovú stránku, tak Lovable AI je skvelý nástroj.

Tak ako pri iných AI riešeniach, samozrejme, treba brať do úvahy, že to je len dočasné riešenie a skutočnú webovú stránku bude musieť programovať človek. Na jednoduché prototypovanie je Lovable AI skvelý nástroj. Viete s ním pomerne rýchlo (rádovo pár hodín) spraviť vizuálne peknú prezentačnú webovú stránku.

Pri Lovable AI sa aj tak nevyhnete tomu, aby Vám pomohol odborník. Lovable AI Vám nenasadí stránku na server a taktiež nenastaví vašu doménu, to stále musí robiť človek. Lovable AI taktiež má svoje nedostatky, ak sa stránka načítava cez pomalší internet. Príklad: pomalšie internetové pripojenie spôsobí, že fonty na stránke sa nie vždy dobre načítajú.

Skvelý nástroj a rozhodne odporúčam pre začínajúcich podnikateľov.

Potrebujete vytvoriť prezentáciu, tak potom jednoznačne Gamma AI. Cez tento nástroj cez prompty spravíte prezentáciu, ktorá je graficky pútavá a zároveň naplnená aj obsahom. Na prvý pohľad to znie super a aj to super funguje, takže tu budem kritický. Prezentácia je niečo, čo je ukážkou toho, ako si vážite svojho budúceho partnera v podnikaní. Ak chcete začať s novým projektom alebo ísť na prezentáciu, aby ste sprostredkovali svoje odborné znalosti, tak je minimálne podnikateľsky správne sa dobre obliecť, správať sa slušne a dať si tú námahu pripraviť sa poctivo na prezentáciu.

Nebudem klamať, že daný nástroj používam. Skôr to beriem ako inšpiráciu, ale na reálne použitie si rozhodne nájdem čas, aby som si prezentáciu spravil sám a poctivo. Počas písania prezentácie si človek pripravuje v hlave samotnú reč a veľa krát hľadá, ako prezentáciu odkomunikovať pútavo a odborne správne.

Svet IT a špeciálne svet AI sa vyvíja neuveriteľne rýchlo a dynamicky. Tento prehľad nástrojov, ktoré používame pri programovaní informačných systémov a mobilných aplikácií, kľudne zajtra nemusí stačiť a môže sa kompletne zmeniť. Udržať krok a sledovať neuveriteľné stovky modelov, ktoré vznikajú takmer na dennej báze, je skutočne ťažké. Vyššie uvedené nástroje sme si odskúšali vo firme a veľa z nich používame na dennej báze.

To najpodstatnejšie je si uvedomiť, že tak, ako sa človek venuje danej špecializácii, tak aj samotné AI nástroje majú svoje zameranie. Výber AI s konkrétnym zameraním na danú úlohu má neuveriteľne dobré výsledky. Očakávať, že pri projektoch v oblasti IT bude stačiť len jeden AI tool, je viac než naivné a dokonca ani nie je správne.

Pri programovaní projektov, ktoré vyžadujú pomoc AI/LLM, sa preto používa kombinácia viacerých modelov pre konkrétne typy úloh na projekte (napríklad: čítanie dát z výkresov, vyčítavanie faktúr, chatovací modul, štatistické operácie a podobne).