Softlandia background

Softlandia

Blogi

Bytewax & Softlandia Workshop: Stateful Streaming Slack GenAI RAG -botti

16. helmikuuta Softlandia ja Bytewax järjestivät mielenkiintoisen workshopin, jonka tavoitteena oli tutustuttaa osallistujat stateful streaming -teknologiaan sekä tekoälyn perusteisiin Slack-bottien parissa. Tämä maksuton kahden tunnin istunto tarjosi käytännön kokemusta ja opetti osallistujia lisäämään Slack-botteihinsa reaaliaikaisia tekoälyominaisuuksia. 

Työpajan vetivät Henrik Nyman, Softlandian perustajajäsen ja ohjelmistoarkkitehti, jolla on laaja tausta järjestelmäsuunnittelussa ja ohjelmoinnissa; Mikko Lehtimäki, toinen perustajajäsen ja Softlandian datatieteilijä; sekä Zander Matheson, Bytewaxin perustaja, ja kokenut datainsinööri.

Työpajan pystyi suorittamaan millä tahansa käyttöjärjestelmällä — Windowsilla, macOSlla tai Linuxilla — Python 3.11 käyttäen. Järjestäjät varmistivat, että kaikilla oli pääsy tarvittaviin resursseihin, kuten Slack-työtilaan ja AI-mallin API-avaimiin, mikä mahdollisti vuorovaikutteisen session.

Tapahtuma alkoi teknologioiden esittelyllä. Näihin kuuluivat Bytewax, työkalu reaaliaikaisten datavirtojen käsittelyyn; Qdrant, vektoritietokanta tiedon tallennukseen ja hakuun; sekä kaksi tekoälyn konseptia, suuret kielimallit (LLM) tekstin tuottamiseen ja Retrieval Augmented Generation (RAG) tekoälyn vastausten parantamiseen lisätiedon haulla. Tämä lyhyt yleiskatsaus auttoi selventämään työkaluja ja konsepteja kaikille.

Seuraavaksi siirryimme työpajan käytännön osaan, aloittaen Bytewaxin ja Qdrantin asennuksella. Ohjaajat opastivat osallistujia jokaisessa vaiheessa, varmistaen, että kaikki olivat valmiita jatkamaan varsinaisen kehitystyön kanssa.

Henrik Nyman guiding the participants through the Slackbot development.

Seuraavaksi siirryimme työpajan käytännön osaan, aloittaen Bytewaxin ja Qdrantin asennuksella. Ohjaajat opastivat osallistujia jokaisessa vaiheessa, varmistaen, että kaikki olivat valmiita jatkamaan varsinaisen kehitystyön kanssa.

Työpajan pääprojekti sisälsi yksinkertaisen järjestelmän luomisen Slack-viestien käsittelyyn, erottaen viesteistä yleiset lausunnot ja kysymykset. Pääteknologia, joka mahdollisti tämän tyyppisen reaaliaikaisen datan käsittelyn, oli Bytewax, huippumoderni niin kutsuttu stateful streaming -kirjasto Pythonille.

Käyttäen Softlandian YOKOT.AI:ta, istunto demonstroi joko viestien tiivistämistä tai yksityiskohtaisten vastausten etsimistä kyselyihin, soveltaen LLM- ja RAG-teknologioita. Jokaisessa vaiheessa esitettiin selkeä kaavio, joka havainnollisti, kuinka Slack-viestit käsiteltiin, analysoitiin ja niihin vastattiin.

Viimeinen vaihe oli kaksisuuntaisen viestinnän mahdollistaminen, jolloin Slack-botti lähetti vastaukset takaisin Slack-kanavalle. Lopulta työpajan Slack-kanava täyttyi upeista boteista, jotka vastasivat kaikenlaisiin kysymyksiin, joita niiltä kysyttiin. 

Työpaja päättyi live-esittelyyn ja keskusteluun, jota johtivat Henrik Nyman, Mikko Lehtimäki ja Zander Matheson. Tämä sessio tarjosi näkemyksiä työpajan opetusten käytännön sovelluksista ja antoi vilauksen tulevaisuuden mahdollisuuksista tekoälyn käytöstä reaaliaikaisessa viestinnässä.

Workshopista löytyi kaikkea aloittelijoille sekä kokeneemmille kehittäjille. Kaikki oppivat jotain uutta tekoälyn soveltamisesta reaalikaisen datan näkökulmasta: työpaja avasi uusia mahdollisuuksia innovaatioihin töissä tai harrastuksissa. Työpaja on tallennettu ja saatavilla YouTubessa.

Jos vastaava workshop - etenkin mistä tahansa tekoälyn soveltamiseen liittyvästä aiheesta - kiinnostaa, toteutamme sellaisen mielellämme joko yrityksenne sisäisenä koulutuksena tai vastaavana maailmanlaajuisena webinaarina!