Momentul initial al istoriei calculatoarelor este, de obicei legat de numele matematicianului englez Charles Babbage. El a propus in anul 1830 o Masina Analitica care a anticipat in mod fascinant structura calculatoarelor actuale. Ideile sale au devansat cu peste 100 de ani posibilitatiile tehnologice ale vremii sale. Inaintea a mai fost incercari in acest domeniu ale lui Leibnitz si Pascal (sec al XVII-lea) .
Urmatorul moment de referinta este anul 1937, cand Howard Aiken, de la Universitatea Harvard a propus Calculatorul cu secventa de Comanda Automata, bazat pe o combinatie intre ideile lui Babbage si calculatoarele elertromecanice, produse de firma IBM. Constructia acestuia a inceput in anul 1939 si s-a terminat in anul 1944, fiind denumit Mark I . El a fost in principal primul calculator electromecanic, fiind alcatuit din comutatoare si relee.
Inlocuirea releelor cu tuburi electronice a constituit un important pas inainte. Rezultatul a fost concretizat in calculatorul ENIAC ( Electronic Numerical Integrator And Computer ), primul calculator electronic digital. El contine circa 18.000 de tuburi electronice si executa 5.000 de adunari pe secunda, avand o memorie de 20 de numere reprezentate in zecimal. Programarea sa se realiza prin pozitionarea a circa 6.000 de comutatoare, cu mai multe pozitii. O semnificatie aparte o are faptul ca in arhitectura calculatoarelor Mark I si ENIAC, intrau mai multe elemente de calcul, ce lucrau in paralel la o problema comuna, fiind dirijate de o singura unitate de comanda . Aceasta solutie a fost aleasa datorita vitezei reduse a fiecarei unitati de calcul, in parte. La versiunea urmatoare s-a renuntat la aceasta structura paralela de calcul, deoarece s-a considerat ca viteza unei unitati de calcul, realizata cu circuite electronice, este suficienta . Solutia prelucrarii paralele a fost reluata ulterior dupa anii 80' pentru marirea performantelor unui sistem de calcul; astfel in 1996 Firma INTEL a realizat un supercalculator ce foloseste peste 7000 de procesoare PENTIUM utilizand tehnica "de calcul masiv" (utilizat pentru simularea testelor nucleare, in cercetari genetice, spatiale, meteorologice).
De remarcat ca la realizarea primelor calculatoare, in calitate de consultant al echipei, a lucrat si matematicianul John von Neumann, unul dintre matematicienii importanti ai secolului XX. De altfel, la realizarea calculatorului EDVAC ( primul calculator cu circuite electronice ) el a stabilit 5 caracteristii principale ale calculatorului cu program memorat :
1. Trebuie sa posede un mediu de intrare, prin intermediul caruia sa se poata introduce un numar nelimitat de operanzi si instructiuni .
2. Trebuie sa posede o memorie, din care sa se citeasca instructiunile si operanzii si in care sa se poata memora rezultatele.
3. Trebuie sa posede o sectiune de calcul, capabila sa efectueze operatii aritmetice si logice, asupra operanzilor din memorie.
4. Trebuie de asemenea sa posede un mediu de iesire, prin intermediul caruia un numar nelimitat de rezultate sa poata fi obtinute de catre utilizator.
5. Trebuie sa aiba o unitate de comanda , capabila sa interpreteze instructiunile obtinute din memorie si capabila sa selecteze diferite moduri de desfasurare a activitatii calculatorului pe baza rezultatelor calculelor .