O livro conta a história de um jovem árabe chamado Beremiz. Ele descobre uma enorme habilidade matemática com atos simples de seu dia-a-dia, como pastorear ovelhas e calcular folhas de árvores. Em sua viagem de férias, após ser presenteado por seu patrão por lucros obtidos através de sua habilidade matemática, o jovem encontra muitas pessoas importantes e a todos impressiona com sua inteligência e a forma prática e simples de resolver questões relacionadas à matemática.Ao encontrar o bagdali (natural de Bagdá) Hank Tade-Maiá, eles iniciam uma viagem a Bagdá. Chegando lá, Beremiz cai nas boas graças do Califa e também se torna professor de matemática da jovem Telassim, cujo rosto ele não pode ver. Mesmo assim, eles se apaixonam. 

Após um desafio proposto por sete sábios, Beremiz vence brilhantementediz ao califa que deseja casar-se com Telassim. Para isso, é submetido a um último desafio: decifrar a cor dos olhos de um grupo de escravas, apenas ouvindo as suas declarações, que poderiam ser verdadeiras ou não. 

Vencido o desafio, Beremiz se casa com Telassim, que já era cristã, e converte-se também ao cristianismo. Faz questão, no entanto, de ser batizado por um bispo que conhecesse a teoria de Euclides. Beremiz e Telassim vão morar em Constantinopla e têm três filhos. 

 Por meio da fantasia e do encantamento das lendas árabes, o autor difundiu o gosto e a curiosidade pelo mundo da matemática. O Homem que Calculava, seu maior sucesso, tornou-se um clássico da literatura infanto-juvenil e é lido até hoje, estando na 75ª edição, a primeira edição data de 1938. O livro foi premiado pela Academia Brasileira de Letras.