Token

Een token is een klein tekstonderdeel waarmee een AI-model informatie verwerkt. Dit kan een woord, deel van een woord of tekenreeks zijn.