1909년 당시 일본 유학생이었던 조소앙(趙素昻) 선생이 우연히 북관대첩비를 발견하여, 비를 가져온 일본을 꾸짖는 글을 기고하면서 북관대첩비의 소재가 밝혀지게 되었다. 이후 1978년 한국연구원장 최서면(崔書勉) 선생이 그 기고문을 보고 야스쿠니 신사에서 다시 비를 찾아내면서 북관대첩비의 한국 반환 요구가 시작되었다. 같은 해 해주 정씨 문중에서는 한일친선협회를 통해 일본의 야스쿠니 신사 측에 처음으로 비 반환을 요청하였고, 1979년 한국 정부의 비 반환 공식 요청에 일본 정부는 원소재지인 북한과의 합의가 있으면 반환하겠다고 답했다. 그러나 그 후 계속된 반환 요청에도 일본 정부는 북한과의 합의가 필요하며 당시 점유자였던 야스쿠니 신사에 강제 반환을 요구하기 어렵다는 입장을 밝혀 반환은 쉽게 이루어지지 않았다. 그러나 민간차원의 지속적인 반환 노력으로 2005년 3월 남측의 한일불교복지협회(초산스님)와 북측의 조선불교도연맹(박태화) 간의 비 반환에 관한 남북합의서가 체결되었고, 같은 해 6월 한일정상회담에서 노무현 대통령과 고이즈미총리가 반환에 합의하였다. 2005년 10월 20일 일본으로 반출된 지100년 만에 비가 돌아와 일반에게 공개되었으니 오랜 노력으로 이루어진 결실인 셈이다.
일본이 일제강점기에 북관대첩비를 강탈한것에 대하여 한국 반환 요구가 시작되었으나 일본은 북한과의 합의를 핑계로 반환하지 않았고  한국정부의 부단한 노력과  민간차원의 지속적인 반환 노력으로 남북합의서 체결 등 2005년 10월 20일 반출 100년 만에  반환되어 일반에게 공개되었다.