NOTaS beleefde in 2019 een uitstekend jaar met twee zeer goed bezochte en inhoudelijk boeiende netwerkbijeenkomsten (achtereenvolgens bij de Universiteit Tilburg en het LIACS in Leiden) en een geanimeerde netwerklunch bij Karel V rond de ontwikkeling van ISO-standaarden voor TST.

Als bestuur zijn we alweer druk bezig om nieuwe bijeenkomsten op te zetten in 2020, waarbij we voortbouwen op de succesformule van de vorige bijeenkomsten: een interactieve miniconferentie i.s.m. een voor de TST-sector interessante gastorganisatie waar zowel academische sprekers als productontwikkelaars en gebruikers ingaan op een overkoepelend thema. Zoals gebruikelijk blijven nieuwe introducées van harte welkom, want NOTaS heeft nog steeds de ambitie om te groeien.

Activiteiten

Onze eerstvolgende bijeenkomst is op donderdag 19 maart in de Jaarbeurs Meetup in Utrecht, waar de Belastingdienst ons ontvangt met een veelzijdig programma rond ethische aspecten van AI-toepassingen bij overheidsdiensten, waarbij uiteraard ook de ethiek van Taal- en Spraaktechnologie aan bod zal komen. Save the date!

Twee dagen eerder organiseert de Hogeschool Leiden ook een boeiend symosium rond E-discovery. Verder bestaat de mogelijkheid om op maandag 8 juni deel te nemen aan de 1^e editie van de Nederlandse Spraaktechnologiedag bij de TU Delft en hier zelf een posterpresentatie te verzorgen.

Verder wil het bestuur jullie graag informeren over drie recente besluiten:

• - de contributie 2020 en de bijbehorende deelnemersfactuur
• - de sponsorbijdrage aan de Stichting Open Spraaktechnologie
• - het herstel van de onverwachts offline gehaalde NOTaS-site

Bestuur

De samenstelling van het bestuur is ongewijzigd en bestaat uit Fabrice Nauze (vz), Staffan Meij (vvz), Henk v.d. Heuvel (pm), Arjan van Hessen (webmaster) en ondergetekende (secr).

Veel leesplezier en hopelijk tot 19 maart!

Met vriendelijke groet,

Namens het bestuur,

Oele Koornwinder

Dit e-mailadres wordt beveiligd tegen spambots. JavaScript dient ingeschakeld te zijn om het te bekijken.

Kunstmatige Intelligentie is bezig met een enorme opmars, zoals we bijna dagelijks in de kranten kunnen lezen. Behalve dat we steeds beter foto's kunnen herkennen, auto's zelfstandig kunnen laten rijden of het weer kunnen voorspellen, kunnen we ook steeds beter omgaan met het fenomeen dat ons mensen onderscheidt van andere zoogdieren: Taal!

Taal is vaag, ambigu, context-afhankelijk, dikwijls incompleet en toch een geweldig communicatiemiddel dat ons ver heeft gebracht. Kan Kunstmatige Intelligentie daar iets mee? Kunnen we de stap nemen van herkennen naar begrijpen, en zo ja hoe dan en hoe goed?

In 2017 heeft NOTaS een hele DIXIT aan TST en KI gewijd. Het resultaat beviel ons zo goed dat we de Tilburg University Language Production group (TULP, onderdeel van het TiCC) hebben gevraagd om een lezingenochtend rond dit onderwerp samen te stellen. Iedereen met interesse in dit Engelstalige programma (zie hieronder) is van harte welkom.

De bijeenkomst vindt plaats op vrijdag 15 februari 2019 en eindigt met een informele netwerklunch. Deelname is gratis. Wel verzoeken we je om je komst tevoren even door te geven via het tabblad inschrijven hieronder. Locatie: Tilburg University (TiCC), Dante-gebouw, Warandelaan2, kamer D353  

's Werelds grootste open meertalig taal-model ontwikkeld: Bloom

19 juli 2022 09:50 | Alfred Monterie | van Computable

De Toren van Babel van Pieter Bruegel de Oude

BigScience, een brede coalitie van artificial intelligence (ai)-onderzoekers, heeft ‘s werelds grootste open meertalige taal-model ontwikkeld. Met 176 miljard parameters kan het Bloom-model coherente teksten genereren in 46 natuurlijke talen en dertien programmeertalen. Die zinnetjes zijn nauwelijks te onderscheiden van wat mensen produceren

Anders dan de meeste taalmodellen richt Bloom zich niet op het Engels of Chinees. Het werkt ook vanuit het Arabisch, Spaans, Frans en Nederlands. Aan het model dat met geld van de Franse regering tot stand is gekomen, hebben meer dan duizend onderzoekers uit zeventig landen gewerkt. Nooit eerder waren zoveel ai-experts bij één enkel onderzoeksproject betrokken.

Behalve CNRS (het Franse TNO), Nvidia, Microsoft en supercomputer-exploitant Genci zijn ruim tweehonderdvijftig universiteiten, startups en ondernemingen van de partij. Het reusachtige model is elf weken lang getraind op de Jean Zay-supercomputer in een rekencentrum bij Parijs.

Onderzoekers kunnen vrijelijk toegang krijgen tot het model dat op een hub van het ai-bedrijf Hugging Face staat. Ze mogen op Bloom de prestaties en het gedrag van hun eigen taalmodellen onderzoeken. Iedereen die akkoord gaat met de voorwaarden van de ‘responsible ai license’ kan het model gebruiken. Op een lokale machine of via een cloudaanbieder is hierop voort te borduren.

Large language models

Grote taalmodellen (LLM's: large language models) hebben een aanzienlijke impact gehad op ai-onderzoek. Deze krachtige, algemene modellen kunnen een breed scala aan nieuwe taaltaken op zich nemen vanuit de instructies van een gebruiker.

De academische wereld, non-profitorganisaties en onderzoekslaboratoria van kleinere bedrijven vinden het echter moeilijk om LLM's te creëren, te bestuderen of zelfs te gebruiken. Dit komt omdat slechts een handjevol industriële laboratoria hier volledige toegang toe hebben. De meeste instellingen en ook starters missen eenvoudigweg de middelen of beschikken niet over de (vaak exclusieve) rechten.

Bloom, de eerste meertalige LLM dat is getraind in volledige transparantie, gaat deze status-quo veranderen. Het model lijkt qua structuur erg op GPT-3 (generative pre trained transformer 3), het systeem voor het genereren van hele stukken tekst waarmee OpenAI uit San Francisco twee jaar geleden de wereld verbaasde. Ook qua capaciteit, uitgedrukt in het aantal parameters, evenaren beide systemen elkaar.

Opensource

Op het gebruik en de broncode van GPT-3 heeft Microsoft een exclusieve licentie. Daarentegen is Bloom opensource. Het team achter Bloom biedt een ruime blik onder de motorkap zodat duidelijk wordt hoe alles werkt. Omdat gebruikers zich moeten houden aan de voorwaarden van de responsible ai-licentie, kan misinformatie worden voorkomen.

Bloom geeft ook de tussentijdse checkpoints en de optimalisatie-statussen van de training vrij. Beschikbaar is een inferentie-api voor grootschalig gebruik. Het project staat nog maar aan het begin, aldus een blog op HuggingFace, de startup die een ecosysteem rond Bloom heeft gebouwd. Het model wordt verder verbeterd. Een meer bruikbare versie met hetzelfde prestatieniveau ligt in het verschiet. Op den duur moet een hele familie van modellen ontstaan. Bovendien komen er nog meer talen bij.

¿LEZEN! is het thema van het DRONGO talenfestival op 2 en 3 oktober. Met een uitroepteken én een vraagteken. Want wie het veld van ontlezing, laaggeletterdheid en leesonderwijs overziet, ontkomt niet aan de vraag waaróm het zo slecht gaat met lezen in Nederland. Tientallen organisaties en duizenden mensen zetten zich vol passie in om dat tij te keren. Ís boeken lezen wel zo belangrijk voor nieuwe generaties, nu er zoveel andere kanalen beschikbaar zijn om verhalen en informatie te delen? Is de crisis in het boekenvak grotendeels aan de boekenwereld zelf te danken?

	Het festival laat zien dat de oplossingen voor de leescrisis voor het oprapen liggen. In tientallen online presentaties en webinars kan de bezoeker kennis maken met recent onderzoek, nieuwe initiatieven en leermethoden. De Britse taalkundige David Crystal bespreekt met de bezoekers hoe leesontwikkeling samenhangt met de taalontwikkeling van jonge kinderen. Ook de wereldberoemde taalpsycholoog en schrijver Steven Pinker maakt zijn opwachting met een interactieve sessie over wat de cognitieve wetenschap ons leert over goed schrijven. Verder bevat het programma diverse presentaties over hoe kinderen aan het lezen te krijgen, is er aandacht voor laaggeletterdheid, technologie en taal, de breedte van het taal- en leesspectrum en biedt het een overzicht van de vele taal- en leesactiviteiten die worden ingezet door de verschillende organisaties.
	In vier live talkshows bespreekt Hadassah de Boer de ontwikkelingen met een reeks aansprekende gasten. Moeten we misschien de nadruk op lezen loslaten, om het lezen te laten overleven?
	Paulien Cornelisse vertelt over haar dagelijkse worstelingen met het Japanse schrift, waarin zij zich een laaggeletterde voelt. Laaggeletterdheidsprofessor Maurice de Greef presenteert de bevindingen van nieuw Europees onderzoek naar de beste manier om laaggeletterden te bereiken. Mohammed Benzakour belicht de kloof tussen de hoog- en de laaggeletterde.  Lidewijde Paris (De Leesambassade), Lev Avitan (Mensen Zeggen Dingen) Gerlien van Dalen (directeur van Stichting Lezen) en Ruth de Jager (Storytel) gaan met elkaar in gesprek over hoe de ontlezing tegen te gaan. Is het luisterboek een impuls voor de literatuur, voor het lezen? Over het lees- en literatuuronderwijs spreken onder andere Bas Steman (‘Lekker Boekie’), Matijs Lips (leraar Nederlands van het jaar 2019), Thoni Houtveen (leesexpert), en Maud Vanhauwaert (voormalig stadsdichter van Antwerpen).
	Adriaan van Dis en Özcan Akyol bevragen elkaar in de slotsessie openhartig. Waar vroeger generaties zichzelf door boeken konden ontdekken en herkennen, is volgens van Dis die rol tegenwoordig niet meer uitsluitend het domein van de literatuur. Akyol vindt dat de literatuur en de elitaire bubbel dringend toe is aan vernieuwing. Er wordt volgens de heren over lezen net zoveel gelogen als over seks. Lezen verliest dus misschien zijn dominantie, maar niet zijn belang.

Het festival wordt dit jaar voor de 9^e keer georganiseerd, en wordt vanwege Covid-19 geheel online gehouden op www.drongotalenfestival.nl. Een deel van het programma wordt op 2 en 3 oktober gelivestreamd, er worden live webinars gehouden, en verder bied het festival een keur aan van tevoren opgenomen programmaonderdelen. Deelname aan het festival is gratis, registeren kan op www.drongotalenfestval.nl