9 november 2025

Ik ben bezig met het bouwen van een blog-schrijf-interface. Ik wil geen tekst genereren zoals in Loom (nou ja, misschien een klein beetje), omdat deze luxe taalmachines eigenlijk niet getraind zijn om te schrijven! Ze zijn getraind om te lezen. 

Ik verloor toegang tot het GPT-4 basismodel in mei, dus gebruik ik nu davinci-002. Ik heb de perplexity van elke post geplot (terwijl het alles in volgorde leest), en het identificeerde mijn twee meest voorspelbare posts tot nu toe:
1. Het recept voor pizza (dat zag ik aankomen)
2. Mijn chaotisch gelul over crackpots (he??)

Ik ben verrast door davinci's gebrek aan verrassing. 

Ik zoek de rand van chaos. Waarschijnlijk hoor ik ook te normaliseren tegen GPT-2, om het juiste soort chaos te vinden. Ik zou ook een classifier kunnen gebruiken om woorden zoals "delve" te verbieden. Wat ik graag wil is iets dat helpt sporen van gender te elimineren, maar alles wat ik nu kan bedenken voelt veel te hacky. 

Het moet mij pushen. Als schattige davincitje mij kan vertellen wat ik ga zeggen voordat ik het zeg, is dat geen goed teken! Ik wil duwtjes om nieuwe paden te verkennen, en beperkingen die me helpen om te denken. We leven in kooien van onze eigen cliches. Ik wil uitstrekken en de vorm ervan voelen. 

Ik was geraakt toen ik Karpathy hoorde zeggen dat hij gelooft dat een van de belangrijkste dingen die de mode collapse van onze geesten vertraagt, het omgaan met andere mensen is. 

Misschien moet ik gewoon meer onder de mensen komen, in plaats van fancy speeltjes bouwen. . .