การค้าขายในสมัยโบราณ ทำให้มนุษย์คิดประดิษฐ์ตัวเลข เพื่อใช้ในการคิดเลข และคิดสร้างกระดานดินเหนียว และกระดาษ เพื่อใช้จดบันทึก การคิดเลขเริ่มต้นด้วยการใช้อุปกรณ์ง่ายๆ คือ นิ้วมือ ก้อนหิน กิ่งไม้เล็กๆ เปลือกหอย และลูกปัด ซึ่งต่อมา ได้พัฒนาขึ้นเป็น "กระดานคิดเลข" และเมื่อประมาณ ๒,๖๐๐ ปีก่อนคริสต์ศักราช ชาวจีนได้ประดิษฐ์ "ลูกคิด" ขึ้น เป็นที่นิยมใช้แพร่หลายมาจนทุกวันนี้ ภายหลังจากนั้นก็ได้มีการประดิษฐ์เครื่องบวกเลข และคิดเลขขึ้นอีกหลายแบบ
เครื่องคอมพิวเตอร์ ที่ได้สร้างเสร็จสมบูรณ์เป็นเครื่องแรกของโลก มีชื่อว่า "มาร์ค ๑" สร้างขึ้นใน พ.ศ. ๒๔๘๗ เป็นคอมพิวเตอร์เชิงตัวเลข สำหรับใช้ในกิจการทั่วไป ประกอบขึ้นจากอุปกรณ์ทางกล อุปกรณ์ทางไฟฟ้า และอุปกรณ์ทางสถิติ ที่มีใช้อยู่ในสมัยนั้น
ต่อมาอีกสองปี จึงได้มีผู้ประดิษฐ์เครื่องคอมพิวเตอร์เครื่องที่สองขึ้น ให้ชื่อว่า "อีนิแอ็ก" มีส่วนประกอบเป็นวงจรอิเล็กทรอนิกส์ นับเป็นคอมพิวเตอร์อิเล็กทรอนิกส์เครื่องแรก
ระหว่าง พ.ศ. ๒๔๘๓-๒๔๙๓ นักคณิตศาสตร์ และฟิสิกส์ชาวอเมริกัน ชื่อ จอห์น ฟอน นอยมันน์ ได้ให้ความเห็นว่า "ควรเก็บคำสั่ง และข้อมูลไว้ในส่วนความจำของเครื่องคอมพิวเตอร์" ซึ่งเป็นที่ยอมรับกันอย่างกว้างขวาง และยังคงใช้ในการสร้างคอมพิวเตอร์สมัย ปัจจุบัน ฟอน นอยมันน์จึงได้รับเกียรติว่า เป็น "บิดาแห่งเครื่องคอมพิวเตอร์สมัยใหม่"
ต่อจากนั้นอีก ๒ ปี ได้มีการพัฒนาเครื่องคอมพิวเตอร์ให้สามารถใช้งานทางธุรกิจได้ เป็นเครื่องแรก ชื่อว่า "ยูนิแว็ก ๑" มีส่วนความจำบรรจุข้อมูลหรือคำสั่งได้ ๑,๐๐๐ คำ สามารถทำงานเกี่ยวกับตัวอักษร อ่าน คำนวณ กับเขียนรายงานได้ในเวลาใกล้เคียงกัน
ในปัจจุบันเทคโนโลยีเจริญก้าวหน้ามาก ได้มีการนำเอาไอซีเล็กๆ ซึ่งเป็นวงจรเบ็ดเสร็จชนิดใหญ่ และชนิดใหญ่มาก รวมทั้งโพรเซสเซอร์ มาใช้ประกอบ สร้างขึ้นเป็นเครื่องคอมพิวเตอร์ ทำให้สามารถสร้างได้ทั้งคอมพิวเตอร์ขนาดยักษ์ หรือซูเปอร์คอมพิวเตอร์ และคอมพิวเตอร์ขนาดจิ๋ว หรือคอมพิวเตอร์หลายชนิดหลายแบบเป็นจำนวนมากมาย