Tidligere arrangement — Dette arrangementet ble avsluttet for 7 dager siden.
Building Secure AI Locally: Hands-on Hack-Along with Google Gemma
Om arrangementet
Bli med GDG Cloud Oslo på en spennende, praktisk hack-along fokusert på å kjøre store språkmodeller (LLM-er) sikkert i ditt lokale miljø ved hjelp av Googles åpne vektermodell, Gemma. Dykk ned i mekanikken til lokale LLM-er, og utforsk essensielle praksiser for å sikre sikkerhet, forutsigbarhet og robusthet. Dette verkstedet vil gi arkitektoniske mønstre og Java-baserte kodeeksempler, men du står fritt til å bruke ditt foretrukne språk for å implementere disse sikkerhetstiltakene.
For å kickstarte verkstedet har vi forberedt komplette arkitektoniske mønstre og kodeeksempler implementert i Java. Imidlertid er dette et polyglot-vennlig arrangement! Vi ønsker deg hjertelig velkommen og oppfordrer deg til å ta disse blåkopiene og implementere de samme sikkerhets- og forutsigbarhetsmønstrene i Python, Go, TypeScript, Rust, eller et hvilket som helst språk du velger.
🚀 Agenda
Del 1: Gemma Intro og anatomien til lokale LLM-er Kom raskt i gang med Googles Gemma-modellfamilie. Vi vil diskutere hvorfor det å kjøre modeller lokalt er en game-changer, hvordan arkitekturen fungerer, og hvorfor lokal utførelse bidrar til å holde dataene dine private.
Del 2: Kjerneutfordringen – sikkerhet og forutsigbarhet Ved å bruke praktiske konsepter og sårbarheter fra den virkelige verden (inspirert av OWASP Top 10 for LLM-er), vil vi diskutere hvorfor AI-modeller noen ganger kan oppføre seg uforutsigbart. Lær hvordan du temmer ikke-deterministiske utganger, unngår injeksjonsrisiko, og konfigurerer grenser for å sikre forutsigbar oppførsel.
Del 3: Hands-On Hack-Along! 💻 Ta med laptopene dine! Vi vil tilby ferdige Java-arkitekturmønstre for å veilede implementeringen din. Du kan dykke rett inn i Java-kodebasen eller bruke den som en referanseblåkopi for å gjenoppbygge de samme sikre LLM-pipelinene i ditt favorittprogrammeringsspråk.
🎒 Hva du skal ta med
Din laptop og lader.
Din foretrukne IDE konfigurert for ditt foretrukne språk (Java, Python, Node, etc.).
Et nysgjerrig tankesett klar til å kode og bryte ting trygt!
(Valgfritt) Forhåndsinstaller Ollama eller Docker hvis du ønsker et forsprang på å kjøre Gemma lokalt.
Mat og drikke vil bli servert! Plassen er begrenset, så sørg for å melde deg på tidlig.
Agenda
---
Taler
Rustam Mehmandarov - Google Developer Expert for Cloud (Senior Software Engineer)
Lidenskapelig informatiker • Java Champion • Google Developer Expert (GDE) for Cloud • Docker Captain • Offentlig taler • Utvikler • Arkitekt • Mentor • Samfunnsbygger.
Følg Rustam på https://rustam.no.
Arrangert av
Rustam Mehmandarov, GDG-arrangør
Lidenskapelig informatiker. Java Champions, Google Developer Expert (GDE) for Cloud, og Docker Captain. Offentlig taler. Mentor. GDG Cloud Oslo, Norge arrangør.
Leonard Sheng Sheng Lee, medarrangør
Fullfør din RSVP for arrangementet her: https://gdg.community.dev/events/details/google-gdg-cloud-oslo-norway-presents-building-secure-ai-locally-hands-on-hack-along-with-google-gemma/.
