Po wielu miesiącach bp Baraniak trafił do szpitala więziennego, gdzie stwierdzono u niego m.in. przewlekłe zapalenie wyrostka robaczkowego i zapalenie dróg żółciowych. W czasie pobytu w szpitalu wciąż był przesłuchiwany przez funkcjonariuszy UB. W sumie, jako „tymczasowo aresztowany”, spędził w więzieniu 27 miesięcy. W okresie tym władze nie były w stanie przedstawić mu żadnych zarzutów karnych.

Pomimo, że nad złamaniem bp. Baraniaka pracowało 31 funkcjonariuszy UB, przez cały ten czas pozostał on wierny prymasowi. Nie poszedł na współpracę mimo wielkiego cierpienia i brutalnych tortur. W grudniu 1955 roku, prawdopodobnie w celu uniknięcia skandalu związanego z możliwą śmiercią biskupa w komunistycznym więzieniu, przewieziono go do miejsca odosobnienia w Marszałkach pod Ostrzeszowem, a następnie do Krynicy Górskiej.

Po swoim uwolnieniu w październiku 1956 r. biskup Antoni pozostawał dalej kierownikiem Sekretariatu Prymasa, do końca maja 1957 roku, to znaczy do dnia jego nominacji przez Piusa XII na arcybiskupa poznańskiego. Rządy w diecezji objął 2 lipca 1957 roku.

Organizował uroczystości milenijne w 1966 roku oraz obchody 1000-lecia biskupstwa w Poznaniu dwa lata później. Zadbał o powstanie nowych parafii i budowę świątyń. Otwierał ośrodki duszpasterskie szczególnie tam, gdzie było daleko do kościoła. Z wielką troską odnosił się do problemów dzieci i młodzieży, co ostatecznie zaowocowało licznymi powołaniami kapłańskimi.

W czasie pełnienia posługi biskupiej wyświęcił 519 kapłanów diecezjalnych i około 200 kapłanów zakonnych, udzielił sakry biskupiej księdzu Jerzemu Strobie, Tadeuszowi Etterowi, Adamowi Sawickiemu i Marianowi Przykuckiemu. Do listy zasług położonych dla Kościoła należy zaliczyć również zainicjowanie ośmiu procesów beatyfikacyjnych i kanonizacyjnych. 23 października 1960 roku zdołał zamknąć diecezjalny proces dzisiaj już błogosławionego Edmunda Bojanowskiego.

Ponadto brał udział w Soborze Watykańskim II, należąc do Komisji Kościołów Wschodnich. Potem został też Przewodniczącym Komisji Episkopatu ds. Realizacji postanowień Soboru Watykańskiego II w Polsce; przygotowywał dla KEP projekty listów w tej sprawie. Z jego inicjatywy został również opracowany Katechizm Nauki Soboru Watykańskiego II.

Przeprowadził I powojenny Synod Archidiecezji Poznańskiej (1968). Zorganizowany po 230 latach przerwy, był jednym z pierwszych synodów w Polsce po „Vaticanum II”.

Abp Baraniak zmarł w poznańskim szpitalu 13 sierpnia 1977 roku.

Prymas Tysiąclecia, w przemówieniu żałobnym nad jego trumną, mówił na temat jego postawy w najtrudniejszym okresie uwięzienia: „Biskup Baraniak uwięziony (...) był dla mnie niejako osłoną. Na niego bowiem spadły główne oskarżenia i zarzuty, podczas gdy mnie w moim odosobnieniu przez trzy lata oszczędzano. Nie oszczędzano natomiast biskupa Antoniego. Wrócił na Miodową w 1956 roku tak wyniszczony, że już nigdy nie odbudował swej egzystencji psychofizycznej. Pozostał człowiekiem drobnym, (...) choć niezwykle aktywnym, podejmującym każdy trud bez wahania. (...) O tym, co wycierpiał, można się było dowiedzieć tylko od współwięźniów. (...) Domyślałem się, że mój względny spokój w więzieniu zawdzięczam jemu, bo on wziął na siebie jak gdyby ciężar całej odpowiedzialności Prymasa Polski. To stworzyło między nami niezwykle silną więź. Wyraża się ona z mojej strony w głębokim szacunku dla tego człowieka, a zarazem w serdecznej wdzięczności wobec Boga, że dał mu tak wielką moc, iż mogłem się na nim spokojnie oprzeć".

Natomiast abp Marek Jędraszewski ocenił po latach, że „gdyby nie abp Baraniak i jego nieugięta postawa, nie byłoby powrotu prymasa Wyszyńskiego do Warszawy po okresie uwięzienia, bez prymasa Wyszyńskiego nie byłoby kard. Wojtyły, a potem Jana Pawła II. Podsumowując, dzieje Kościoła w Polsce, Europie i świecie potoczyłyby się zupełnie inaczej, w sposób dzisiaj przez nas trudny do wyobrażenia. A za tym wszystkim stoi ta nieugięta, cicha postać człowieka, który się wtedy nie ugiął, nie załamał i jak mówił sam prymas – wziął na swoje barki odpowiedzialność prymasa za Kościół w Polsce.”

Mimo swej niezłomnej postawy, abp Baraniak pozostał bohaterem w dużej mierze zapomnianym. Okazją do przypomnienia o jego bohaterstwie była wydana w 2009 roku książka „Teczki na Baraniaka” autorstwa abp. Jędraszewskiego, a istotnym krokiem ku przywróceniu o nim pamięci jest film Jolanty Hajdasz: „Zapomniane męczeństwo”.

Wielu z jego oprawców żyje do dziś i nie poniosło kary. W 2011 roku postępowanie w sprawie znęcania się nad nim zostało umorzone z powodu „braku danych dostatecznie potwierdzających popełnienie tego czynu”.