Em 1973, a Digital designou o engenheiro David Cutler para projetar um sistema operacional de tempo real, denominado RSX-11M, para a plataforma PDP-11. Este sistema já possuía conceitos avançados para a época, como sistema de arquivos hierárquicos, utilização da técnica de swapping e um conjunto de ferramentas de apoio a desenvolvimento de sistemas.
Apesar do sucesso, o PDP-11 possuía uma séria limitação na sua capacidade de endereçamento, restrita a 16 bits. Com base neste fato, a Digital investiu na arquitetura VAX (Virtual Address e Xtension) de 32 bits, visando oferecer um novo processador com capacidade de endereçamento que satisfizesse seus clientes por um longo período de tempo. Assim, era mais do que necessário desenvolver um sistema operacional para dar suporte a esta arquitetura que podia endereçar aproximadamente 4bilhões de bytes. Mais uma vez Cutler foi escolhido para liderar este projeto de um sistema que explorasse a capacidade máxima do novo processador. Nascia, então, o VMS (Virtual Memory System), um sistema operacional de tempo compartilhado que aparecia como uma evolução do RSX-11M.
Em 1978, a Digital lançava seu primeiro computador baseado na nova arquitetura, o VAX 11/780, onde o VMS seria o sistema operacional desta plataforma e de todos os demais modelos desta família de processadores. Ao longo dos anos 80, o VMS se consolidou como um sistema operacional de grande sucesso tanto na área comercial quanto no meio acadêmico.
No início dos anos 90, a Digital lançou o Alpha AXP, processador com arquitetura de 64 bits.
Uma nova versão do VMS foi desenvolvida para suportar mais esta plataforma. A evolução do VMS permitiu que fossem incorporadas à sua arquitetura características de sistemas abertos, de acordo com padrões de interface do IEEE (Institute of Electrical and Electronics Engineers) e especificações do OSF (Open Software Foundation) e do consórcio X/Open. A partir dessas novas funcionalidades, a Digital rebatizou o sistema como Open VMS.