Trong một quãng thời gian rất dài từ khi máy tính điện tử ra đời vào năm 1946, máy tính
không chỉ cồng kềnh mà còn đắt nữa chứ. Chỉ một số ít công ty mới đủ khả năng mua. Lúc đó người ta vào máy vừa mất thời giờ, vừa tốn sức, lại bất tiện. Để khắc phục khó khăn này, người ta đã nghĩ tới việc sử dụng đường dây điện thoại để đưa dữ liệu và chương trình thuộc đề mục cần thiết của máy tính vào máy, và kết quả tính toán cũng lại đưa trở về theo đường dây điện thoại. Đầu tiên thực hiện ý tưởng này là ngành Quân sự Mĩ.
Năm 1950, Mĩ và Canađa đã xây dựng một hệ thống phòng không mặt đất tại cùng biên giới hai nước. Gọi tắt là hệ thống SAGE. Đó là lần đầu tiên trong lịch sử loài người, người ta đã kết hợp máy tính với thiết bị viễn thông, là tiền thân của mạng máy tính.
Hệ thống SAGE vẫn chưa được coi là mạng máy tính thực sự. Bởi vì nó được kết nối bởi đường dây viễn thông. Một đầu là máy tính, một đầu chỉ là thiết bị nhập dữ liệu, gọi là thiết bị terminal (thiết bị thu thập tin và phát lệnh trong hệ thống máy tính điện tử gọi là thiết bị đầu cuối – chú thích người dịch). Người ta gọi hệ thống này là hệ thống terminal liên cơ, gọi tắt là hệ thống liên cơ. Hệ thống liên cơ đã được ứng dụng rộng rãi một cách nhanh chóng. Theo phương thức này thì người ta liên kết một thiết bị đầu cuối với máy tính bằng đường dây viễn thông. Như vậy là có thể sử dụng máy tính từ xa bằng thiết bị đầu cuối này, chẳng khác gì bản thân cũng đang ở trong phòng máy vậy.
Ngoài ứng dụng trong tính toán khoa học, hệ thống liên cơ trong thương mại cũng có ứng dụng rộng rãi, như dùng cho hệ thống bán vé tự động của công ty hàng không. Tại các cửa hàng bán vé của công ty đều lắp đặt một thiết bị đầu cuối, nối với máy chủ (mainframe) tại trụ sở chính bằng liên lạc viễn thông. Như vậy, máy tính của trụ sở chính luôn luôn biết được từng chuyến bay đã bán được bao nhiêu vé. Các nhân viên bán vé tại các terminal cũng biết được chuyến bay nào còn thừa vé. Vì thế đã nâng cao rất nhiều hiệu suất công tác và chất lượng phục vụ.
Đồng thời với việc phát triển hệ thống liên cơ, người ta cũng đang xem xét liệu có thể kết nối các máy tính lại với nhau bằng liên lạc thông tin không, nhằm làm cho những người làm máy tính có thể sử dụng khả năng tính toán to lớn, những thiết bị ngoại vi quý và nguồn thông tin phong phú của các loại máy tính khác. Những năm 60 của thế kỷ XX, Cục kế hoạch nghiên cứu cao cấp ARPA của Bộ Quốc phòng Mĩ đã tài trợ cho công cuộc nghiên cứu mạng máy tính. Tháng 12 năm 1969 đã xây dựng mạng ARPANET với chỉ có bốn máy chủ, đây là mạng máy tính đầu tiên trên thế giới. Nó chính là tiền thân của Internet ngày nay. Sự thành công của mạng ARPANET đã làm bùng nổ làn sóng nghiên cứu mạng máy tính. Những nghiên cứu này đã đặt nền móng lí luận cho mạng máy tính.
Sau đó, các nhà sản xuất và cung cấp máy tính cỡ lớn mà tiêu biểu là IBM và DEC đều đã đưa ra sản phẩm mạng của mình. Thế nhưng, sự phổ cập mạng máy tính là câu chuyện về sau, khi xuất hiện máy vi tính (micro computer, còn gọi là máy tính cá nhân – personal computer).