Le cimetière a été aménagé et utilisé par les unités de la ligne de front du début mai à octobre 1917. En 1923, il a été agrandi pour accueillir des sépultures trouvées sur les champs de bataille au nord-ouest.
Le cimetière britannique de Petit-Vimy renferme 94 tombes de la Première Guerre mondiale, dont 23 sont non identifiées. La conception du cimetière est de W. H. Cowlishaw.
Dans ce cimetière reposent trois Canadien victimes de la bataille de la crête de Vimy.