计算机基本工作原理即“存储程序”原理，它是由冯·诺依曼提出的。
1946年，美籍匈牙利数学家冯·诺依曼提出了关于计算机的构成模式和工作原理的基本设想。
计算机基本构成模式
计算机应包括运算器、存储器、控制器、输入设备和输出设备五大基本部件
计算机中数的表示
计算机内部应采用二进制表示指令和数据
计算机的工作原理
计算机系统应按照下述模式工作：将编好的程序和原始数据，输入并存储在计算机的内存储器中（即“存储程序”）；计算机按照程序逐条取出指令加以分析，并执行指令规定的操作（即“程序控制”）。这一原理称为“存储程序”原理，是现代计算机的基本工作原理，至今的计算机仍采用这一原理。
概念上讲，一部计算机的存储器可以被视为一组“细胞”单元。每一个“细胞”都有一个编号，称为地址；又都可以存储一个较小的定长信息。这个信息既可以是指令（告诉计算机去做什么），也可以是数据（指令的处理对象）。原则上，每一个“细胞”都是可以存储二者之任一的。算术逻辑单元（ALU）可以被称作计算机的大脑。它可以做两类运算：第一类是算术运算，比如对两个数字进行加减法。算术运算部件的功能在ALU中是十分有限的，事实上，一些ALU根本不支持电路级的乘法和除法运算（由是使用者只能通过编程进行乘除法运算）。第二类是比较运算，即给定两个数，ALU对其进行比较以确定哪个更大一些。
输入输出系统是计算机从外部世界接收信息和向外部世界反馈运算结果的手段。对于一台标准的个人电脑，输入设备主要有键盘和鼠标，输出设备则是显示器，打印机以及其他许多后文将要讨论的可连接到计算机上的I/O设备。
控制系统将以上计算机各部分联系起来。它的功能是从存储器和输入输出设备中读取指令和数据，对指令进行解码，并向ALU交付符合指令要求的正确输入，告知ALU对这些数据做那些运算并将结果数据返回到何处。控制系统中一个重要组件就是一个用来保持跟踪当前指令所在地址的计数器。通常这个计数器随着指令的执行而累加，但有时如果指令指示进行跳转则不依此规则。
20世纪80年代以来ALU和控制单元（二者合成中央处理器，CPU）逐渐被整合到一块集成电路上，称作微处理器。这类计算机的工作模式十分直观：在一个时钟周期内，计算机先从存储器中获取指令和数据，然后执行指令，存储数据，再获取下一条指令。这个过程被反复执行，直至得到一个终止指令。
由控制器解释，运算器执行的指令集是一个精心定义的数目十分有限的简单指令集合。一般可以分为四类：1）、数据移动（如：将一个数值从存储单元A拷贝到存储单元B）2）、数逻运算（如：计算存储单元A与存储单元B之和，结果返回存储单元C）3）、条件验证（如：如果存储单元A内数值为100，则下一条指令地址为存储单元F）4）、指令序列改易（如：下一条指令地址为存储单元F）
指令如同数据一样在计算机内部是以二进制来表示的。比如说，10110000就是一条Intel x86系列微处理器的拷贝指令代码。某一个计算机所支持的指令集就是该计算机的机器语言。因此，使用流行的机器语言将会使既成软件在一台新计算机上运行得更加容易。所以对于那些机型商业化软件开发的人来说，它们通常只会关注一种或几种不同的机器语言。
更加强大的小型计算机，大型计算机和服务器可能会与上述计算机有所不同。它们通常将任务分担给不同的CPU来执行。今天，微处理器和多核个人电脑也在朝这个方向发展。
超级计算机通常有着与基本的存储程序计算机显著区别的体系结构。它们通常由者数以千计的CPU，不过这些设计似乎只对特定任务有用。在各种计算机中，还有一些微控制器采用令程序和数据分离的哈佛架构
