Akcja filmu toczy się w bliżej nieokreślonym kraju śródziemnomorskim. Podczas demonstracji ginie znany profesor uniwersytecki związany z ugrupowaniem lewicowym. Z był od dawna solą w oku partii rządzącej i kontrolowanej przez nią armii. Zostaje rozpoczęte śledztwo, które ma wykazać, że śmierć mężczyzny była przypadkowa. Prowadzenie sprawy zostaje powierzone niedoświadczonemu sędziemu śledczemu. Mimo że władza piętrzy przed nim przeszkody, mężczyzna trafia na właściwy trop.

Fabuła „Z” powstała z inspiracji prawdziwym mordem politycznym w Grecji w 1963 roku, jednak reżyser nadał swemu filmowi cechy uniwersalne.