Москва тоже искренне хотела улучшить свои отношения с Токио, и не только по причине подписания мирного договора и налаживания взаимовыгодного партнёрства. Для Н.С.Хрущёва, ставшего инициатором этого процесса, очень важным было вырвать Японию из сферы американского влияния и отодвинуть военные базы США как можно дальше от советских границ. Поэтому уже весной 1955 года в Лондоне прошли первые переговоры двух делегаций, которые возглавили советский и бывший японский послы в Великобритании Яков Александрович Малик и Сюнъити Мацумото, поскольку всё тогдашнее руководство японского МИДа занимало откровенно проамериканскую позицию.
Как утверждает академик С.Л.Тихвинский[731], бывший участником этих переговоров, текст советского проекта был почти согласован, за исключением территориального вопроса. Однако уже в июле японский министр иностранных дел Мамору Сигэмицу, выступая в Вашингтонском пресс-клубе, заявил, что «Япония не намерена устанавливать дружественные отношения с Советским Союзом».
"
"Между тем в начале августа 1955 года во время своей неофициальной беседы с С.Мацумото Я.А. Малик неожиданно заявил, что в случае подписания мирного договора Москва могла бы передать Японии остров Шикотан и архипелаг Хабомаи. Как выяснилось позже, на июльском Пленуме ЦК Н.С.Хрущёв не только грубо отругал Я.А. Малика за отсутствие прогресса на переговорах в Лондоне, но и лично озвучил ему эту идею, с которой выступил ещё раньше, во время своей продолжительной беседы с японскими промышленниками в Москве.
Однако, как и следовало ожидать, японцы отклонили это предложение, подтвердив свою прежнюю позицию о возврате всех Курильских островов и Южного Сахалина. Не последнюю роль в этом сыграло и крайне жёсткое давление Дж. Даллеса на М. Сигэмицу там же в Лондоне, куда тот прилетел для ведения переговоров по Суэцкому кризису. Также безрезультатно окончился и второй раунд переговоров, состоявшийся уже в Москве в июле 1956 года, которые теперь лично провёл министр иностранных дел М.
Сигэмицу.
К тому времени в самом Токио резко пошатнулись и позиции И.Хатоямы, так как его противникам во главе с бывшим премьером Сигэру Иосидой удалось заблокировать вопрос о подписании мирного договора с Москвой. Но тем не менее, будучи уже тяжело больным, он отказался уйти в отставку и заявил, что покинет пост премьера только после выполнения своего предвыборного обещания о нормализации отношений с Москвой.