Kaji był twórcą pierwszego w Japonii magazynu z łamigłówkami. W połowie lat 80-tych łącząc elementy już istniejących łamigłówek stworzył łamigłówkę, które nazwał "sudoku" - skrót od japońskich słów "cyfry muszą być pojedyncze".
Sudoku polega na uzupełnieniu brakującymi cyframi diagramu 9 na 9 w taki sposób, aby w każdym wierszu, w każdej kolumnie i w każdym z dziewięciu pogrubionych kwadratów 3 na 3 (zwanych „blokami” lub „podkwadratami”) znalazło się po jednej cyfrze od 1 do 9.
Skala trudności uzależniona jest od tego ile cyfr jest umieszczonych w diagramie przez jego twórcę przed rozpoczęciem rozwiązywania łamigłówki.
Firma Nikoli założona przez Kajiego informując o jego śmierci "wyraziła mu wdzięczność" i podkreśliła, że był "uwielbiany przez miłośników łamigłówek z całego świata".
Przyczyną śmierci Kajiego był rak dróg żółciowych.