云计算中的虚拟化通过抽象硬件资源，使得多个虚拟机 (VM) 能够在单个物理服务器上运行。其核心是一个叫做管理程序（hypervisor）的软件层，它管理着这个过程。管理程序将物理主机的 CPU、内存、存储和网络资源分配给每个 VM，使它们能够作为拥有各自操作系统和应用程序的独立系统运行。例如，云提供商可能使用直接在服务器硬件上运行的 Type 1 管理程序，如 VMware ESXi 或 Microsoft Hyper-V，或者使用运行在宿主操作系统之上的 Type 2 管理程序，如 VirtualBox。这种抽象确保了 VM 之间以及与底层硬件之间的隔离，从而实现了灵活性和高效的资源利用。
管理程序根据需求动态分配资源。例如，如果 VM 在峰值负载期间需要更多 CPU 算力，管理程序可以临时分配物理主机的闲置周期。像 AWS EC2 这样的云平台使用 Xen 或 KVM 等管理程序来划分资源，允许用户启动预定义配置的实例（例如，用于轻量级工作负载的“t3.micro”）。存储和网络也以类似方式虚拟化：从物理存储阵列中划分出虚拟磁盘，虚拟网络则对 VM 之间的流量进行分段。热迁移（live migration）等高级功能允许提供商在不停机的情况下在物理服务器之间移动 VM——这对于硬件维护或平衡服务器负载非常有用。对资源的这种精细控制是优化共享云环境中性能和成本的关键。
虚拟化在云中的优势包括可扩展性、多租户和成本效益。通过汇集硬件资源，提供商可以在共享基础设施上服务数千名客户，同时保持隔离。例如，Azure Virtual Machines 允许开发者按需启动 Windows 或 Linux VM，并根据需要进行纵向扩展（为 VM 添加更多资源）或横向扩展（启动额外的 VM）。这种模式消除了组织维护物理服务器的需求，降低了前期成本。此外，虚拟化还支持快照（VM 的时间点备份）和模板（预配置的 VM 镜像）等功能，从而简化了部署。尽管容器和无服务器计算越来越受欢迎，但虚拟化仍然是云计算的基础，因为它提供了安全高效地运行各种工作负载的灵活性。