Funkcje tokenizera są interfejsem dostępu do wewnętrznego tokenizera, wbudowanego w Zend Engine. Używając tych funkcji można napisać swoje własne narzędzia do analizy lub modyfikacji kodu PHP, bez potrzeby zajmowania się specyfikacją języka na poziomie analizy leksykalnej.
Patrz także: dodatek o tokenach.