위법수집증거배제법칙은 미국 연방대법원의 판례에 의해 형성되었다. 미국 연방대법원은 1914년 Weeks 사건에서 수정헌법 4조에 기초하여 위법한 압수·수색에 의한 압수물의 증거능력을 연방 사건에서 배제하였고, 이후 1961년 Mapp 사건에서 위법수집증거배제법칙이 연방헌법 제14조를 통해 주(州) 사건에도 적용된다고 판시함으로써 위법수집증거배제법칙을 확립하기에 이르렀다. 위법수집증거배제법칙을 인정하는 근거에 관하여 워렌 대법원장이 이끄는 1960년대의 미연방대법원은 사법의 염결성의 유지와 위법수사의 억제효과에 그 근거를 두었다. 즉 수사기관의 헌법적 권리침해의 결과물을 증거로 사용하는 것은 위법한 침해에 동조하는 결과가 되어 사법의 염결성이 훼손되므로 허용할 수 없고, 헌법을 위반하는 수사기관의 행위는 그 위반행위로 인해 형사소추에서 가지게 되는 이익을 박탈함으로써 가장 효과적으로 억제될 수 있다는 정책적 근거하에 위법수집증거배제법칙을 인정하였다. 그런데, 1970년대 들어 미국 사회 전반의 보수화가 진행되고 위법수집증거배제법칙이 범죄의 피해자보다 범죄인을 더 보호한다는 비판을 받게 됨에 따라 사법의 염결성보다는 위법수사의 억지효과가 강조되게 되었고, 그에 따라 연방대법원은 1974년 Calandra 사건에서 위법수집증거배제법칙이 형사피고인의 헌법적 권리라는 종래의 입장을 버리고 위법수집증거배제법칙을 위법수사에 대한 억제 효과를 통해 수정헌법상의 권리를 보장하기 위한 사법상의 제도에 불과하다고 재해석하기에 이르렀다. 한편, 위법수집증거를 배제함으로서 얻게 되는 억제효과는 위법한 수사로 피해를 입게 되는 피고인에 대하여 유죄 입증의 증거로 사용하지 못하게 할 때에 그 효과가 있는 것이므로, 미국 연방대법원은 피고인이 아닌 제3자에 대하여 위법한 방법으로 수사가 행해진 경우에는 그로 인하여 얻은 증거를 피고인에 대하여 사용할 수 있다고 판시하였다.
1960년대 미국 연방대법원은 사법의 염결성 유지와 위법수사의 억제효과를 근거로 위법수집증거배제법칙을 확립하였다. 그러나 70년대에 들어 미국 사회가 보수화되고 이 법칙이 피해자보다 범죄인을 더 보호한다는 비판을 받기 시작했다. 그 결과 1974년 Calandra 사건에서 이 법칙은 위법수사에 대한 억제 효과로 수정헌법의 권리를 보장하기 위한 사법상의 제도에 불과하다고 하였고, 피고인이 아닌 제3자에 대하여 위법한 방법으로 수사가 행해진 경우 그 증거를 피고인에 대해 사용할 수 있다고 판시하였다.