Fermatův test prvočíselnosti vychází z malé Fermatovy věty, tedy že pro každé prvočíslo platí
Pokud rovnost pro testovené číslo p neplatí, tak určitě není prvočíslem, pokud platí, tak dané číslo MOŽNÁ prvočíslem je.
Příklad
Volíme: a = 2
Testujeme:
Číslo je svědkem, že není prvočíslo.
Příklad 2
Volíme: a = 4
Testujeme:
Číslo tvrdí, že je prvočíslo, což není pravda (jak jsme již zjistili v předchozím příkladu). Označme tedy číslo za Fermatova lháře.
Nedostatky Fermatova testu
Zásadním nedostatkem Fermatova test je existence tzv. Carmichaelových čísel. Carmichaelova čísla jsou Fermatova pseudoprvočísla, což znamená, že jsou složená, ale vyhoví vždy Fermatovu testu bez ohledu na zvolenou bázi. Z toho také vyplývá, že pro Fermatův test nelze určit pravděpodobnost, že je dané číslo prvočíslem, pokud víme, že již prošlo iteracemi testu.
Z tohoto důvodu není Fermatův test v praxi příliš rozšířený a používají se jiné testy, které zmíněnými nedostatky netrpí - například Rabin-Millerův, Solovay-Strassenův nebo Lehmannův test.