Vierchowod jest synem ukraińskiego żołnierza służącego niegdyś w Armii Czerwonej i osiadłego we Włoszech. Pietro urodził się 6 kwietnia 1959 roku w małej miejscowości Calcinate w Lombardii. Piłkarską karierę rozpoczynał w małym klubie o nazwie Romanese, a w 1976 roku przeszedł do Como Calcio, w barwach którego w 1977 roku zadebiutował w Serie B, ale w tym samym sezonie spadł z Como do Serie C1. W trzeciej lidze spędził rok i już w sezonie 1979/1980 z powrotem grał w Serie B i Como jako beniaminek awansował do Serie A. W pierwszej lidze Włoch Vierchowod zadebiutował 14 września 1980 w przegranym 0:1 domowym meczu z AS Roma, a w grudniu zdobył swojego pierwszego gola w lidze (w wygranym 3:1 meczu z Cagliari Calcio). Z Como Pietro utrzymał się w lidze.
Latem 1981 Vierchowod zmienił klub i przeszedł do silniejszej Fiorentiny. W jej barwach wystąpił 28 razy i zdobył 2 gole (z US Catanzaro i Como), a dobrą gra w obronie przyczynił się do wicemistrzostwa Włoch. W 1982 roku Pietro przeszedł jednak do AS Roma. W jej barwach zadebiutował 12 września w wygranym 3:1 wyjazdowym meczu z Cagliari. W rzymskim klubie był głównym filarem obrony, a zespół z takimi gwiazdami jak Falcao, Bruno Conti czy Roberto Pruzzo wywalczył pierwsze od 40 lat mistrzostwo kraju. Vierchowod obok bramkarza Franco Tancrediego wystąpił we wszystkich 30 meczach ligowych w mistrzowskim sezonie.
Latem 1983 Pietro znów zmienił barwy klubowe i tym razem został piłkarzem Sampdorii Genua. W Sampdorii swój pierwszy mecz ligowy rozegrał 12 września, a klub z Genui pokonał 2:1 na wyjeździe Inter Mediolan. Na swój pierwszy sukces w barwach nowego klubu Vierchowod czekał rok i wtedy to w sezonie 1984/1985 wywalczył Puchar Włoch, swój pierwszy w karierze. W 1988 roku powtórzył ten sukces, podobnie jak rok później, czyli w 1989 roku. Dzięki tym trzem trofeom „Car” wystąpił w Pucharze Zdobywców Pucharów. W edycji 1988/1989 doszedł z Sampdorią do finału, ale włoski klub przegrał 0:2 z Barceloną. Natomiast w edycji 1989/1990 genueński zespół pokonał w spotkaniu finałowym 2:0 po dogrywce belgijski Anderlecht Bruksela. W sezonie 1990/1991 Sampdoria z Vierchowodem w obronie została po raz pierwszy w historii mistrzem kraju (30 meczów, 3 gole w sezonie), a w sezonie 1991/1992 dotarła do finału Ligi Mistrzów, ale znów uległa Barcelonie, tym razem 0:1 (90 minut Pietro w tym meczu). Podczas gry w Sampdorii Vierchowod sięgnął po jeszcze jedno trofeum: Puchar Włoch w 1994 r.
Latem 1995 roku Vierchowod przeszedł do Juventus Turyn. W turyńskim klubie walczył o miejsce w wyjściowej jedenastce z Moreno Torricellim, Paolo Montero oraz Massimo Carrerą. W lidze Juventus został tylko wicemistrzem kraju, ulegając Milanowi, ale w rozgrywkach Ligi Mistrzów nie miał sobie równych i w finale pokonał po rzutach karnych holenderski Ajax Amsterdam (w finale Pietro nie zagrał).
W 1996 roku Pietro przeniósł się na San Siro i został zawodnikiem A.C. Milan. Jednak w Milanie był tylko rezerwowym obrońcą dla Alessandro Costacurty, Marcela Desailly czy Franco Baresiego. Na dodatek Milan spisał się w lidze wyjątkowo słabo i zajął dopiero 11. miejsce. W 1997 roku Vierchowod odszedł z zespołu i podpisał kontrakt z Piacenzą Calcio. W klubie tym grał regularnie przez 3 sezony do 41. roku życia, a karierę zakończył dopiero po spadku tego klubu z Serie A w sezonie 1999/2000. W Serie A Vierchowod wystąpił łącznie w 562 ligowych spotkaniach i na liście wszech czasów zajmuje 4. miejsce za Paolo Maldinim, Gianluką Pagliuką oraz Dino Zoffem.
