14 декабря 872 года, спустя считаные дни после смерти Адриана II, конклав избрал его преемником архидиакона римской церкви Иоанна. Избрание прошло не гладко — против выдвигалась кандидатура Формоза, кардинала-епископа Порто, и его сторонники не скрывали недовольства результатом.
Иоанн пришёл к власти с личным опытом, который определит многое в его правлении: ребёнком он застал разграбление Рима арабами в 846 году и хорошо помнил, чем оборачивается беззащитность Святого престола перед сарацинами. Опасность с юга Италии будет занимать его внимание постоянно.
Наследство от предшественника оказалось непростым. Адриан II за пять лет понтификата так и не разрешил спор о наследстве Лотарингии — раздел земель в Мерсене в 870-м прошёл вопреки желаниям Рима, в пользу Карла Лысого и Людовика Немецкого, а не императора Людовика II, которого поддерживал папский престол. Архиепископ Реймсский Гинкмар систематически отбивал все попытки папских легатов вмешаться во франкские дела.
Был и нерешённый славянский вопрос: Адриан II благословил миссию Кирилла и Мефодия и одобрил славянскую литургию, но не знал, что архиепископ Мефодий уже два года находится под арестом баварских епископов — Рим об этом ещё не подозревал.
Новый папа получил престол при оппозиции внутри курии, неразрешённый династический спор на севере и арабскую угрозу на юге. Опыта ему хватало — вопрос был, достанет ли власти.