"Industriell styrka" extremister kan inte behandlas "bara med vapen", sade han i en sällsynt intervju.
Under Irakkriget utarbetade Petraeus den strategi som såg en "kirurgi" i USA:s trupper och säkrade stöd från sunnistammar mot al-Qaida.
Iraks USA-stödda armé kämpar nu för att återta territorium som beslagtagits av IS.
Gen Petraeus beskrev gruppen som "en formidabel fiende".
"Det är verkligen en konventionell armé som också har inslag av en uppror, och faktiskt betydande terrorist element också," sade han.
Men när han ombads jämföra IS med sin föregångare al-Qaida i Irak - vilket Gen Petraeus var avgörande för att besegra - sade han att den senare hade "mycket större rötter i Irak och mycket större antal än IS".
Den pensionerade generalen karakteriserade den senaste tidens tillfångatagande av IS i Ramadi, huvudstaden i Anbarprovinsen, som "en strategisk förlust i den meningen att berättelsen om IS är på defensiv - att förlora - visade sig vara något ihålig".
"Jag tror Ramadi kommer att tas om några veckor eller mindre", tillade han.
"Men detta var ett stort bakslag. Vid en sådan tidpunkt måste man titta på strategin, på förbättringar som behöver göras, på insatser som behöver förstärkas, och jag vet att det är vad som händer just nu."
1974: Utexaminerade från West Point USA militärakademi, gå med i armén
2007: Leder USA:s truppvåg under Irakkonflikten
2008: Chef för US Central Command
2010: Natobefälhavare i Afghanistan
Mitten av 2011: Lämnar militären för att bli CIA-chef
November 2012: Avgår över affären
Efter att ha fört befäl över internationella trupper i Irak och Afghanistan blev Gen Petraeus chef för CIA men tvingades avgå 2012, efter avslöjanden om en utomäktenskaplig affär.
Senare anklagelser att han gav hemlig information till sin älskarinna medan han var CIA direktör ledde honom att erkänna sig skyldig till en förseelse anklagelse.
Men trots turbulensen i hans privatliv är Gen Petraeus fortfarande en av hjältarna i Amerikas kontroversiella militära operationer under de senaste åren.
Han var arkitekt för den "kirurgi" i Irak som skickade ut fler amerikanska trupper, men lika viktigt, fick dem ur sina försvarade föreningar för att skapa säkerhet på lokal nivå.
Han utökade också kraftigt uppvaknandet av Anbar, mobiliseringen av sunnistammar för att bekämpa al-Qaida.
Inte förvånande i kölvattnet av de senaste bakslagen i Irak, hans åsikter genomsöks av Vita huset, Pentagon, och på Capitol Hill.
Huvudanförandet i Petraeus-strategin i dag är som det alltid har varit - behovet av att de politiska och militära aspekterna av strategin marscherar nära varandra.
"Du kan inte ta itu med en industriell styrka extremist problem bara med vapen," sade han.  "Man måste ha den politiska komponenten också."
Politisk förändring måste börja i toppen. Framför allt säger general Petraeus: "Sunniaraberna måste få incitament att stödja det nya Irak snarare än att motsätta sig det".
När det gäller den grundläggande frågan - kan den irakiska militären verkligen vinna mot den islamiska staten? - Han tvivlar inte.
"Under upptakten och åren efter upptrappningen kämpade irakiska styrkor och dog för sitt land i ett mycket högre antal än USA och koalitionsstyrkorna. Vi vet att de kan slåss, insisterar han.
"Vi vet att de kommer att slåss. Men de kommer bara att kämpa om de har bra ledarskap, och stöd och kunskap att någon kommer att ha sin rygg om de kommer in i en tuff kamp.
Det verkar kräva ett större engagemang från USA närmare frontlinjen. Gen Petraeus är ovillig att ge detaljer.
"Borde det finnas amerikanska rådgivare med irakiska styrkor under divisionsnivån?" frågar han. "Borde det finnas gemensamma team av taktiska flygledare på marken med säkerhet och andra tillgångar för att stödja dem?
"Måste det finnas en förstärkning av tåg-och-ekvip ansträngningen? Kan vi påskynda leveransen av en del av den utrustning som Irak så desperat behöver?"
Det låter som elementen i en plan för en förnyad amerikansk insats. Men återigen - typiskt Petraeus - finns den politiska dimensionen.
"Gör vi allt vi kan för att stärka och stödja dessa irakiska ledare, till att börja med premiärminister Haider al-Abadi, som inser behovet av att återföra den sunniiska arabiska befolkningen till det irakiska samhällets struktur? Och, viktigast av allt, stöder våra militära element och strukturer tillräckligt den politiska komponenten och vice versa?"
Som svar på min kommentar att allt detta kunde ha sagts för ett år sedan svarade Gen Petraeus med att säga att han faktiskt sa det för ett år sedan. Det handlar inte om att återuppfinna hjulet.
"Vi behöver se samma element i denna (tidigare) omfattande civil-militära kampanj mot uppror, om än i dag med irakierna som spelar de viktigaste rollerna, som möjliggörs av amerikanerna."
Gen Petraeus erkänner svårigheterna med att brottas med fasorna i Syrien men insisterar på att den enda vägen framåt är att utbilda och utrusta moderata oppositionselement. Han säger att fler sådana fighters kommer att växa upp när programmet väl har kommit igång.
Och han är mycket försiktig med alla iranska roller i kampen mot IS. Han insisterar på att Iran förblir en revolutionär makt i regionen.
"Detta är ett land som har gjort framsteg på grund av kaos. Det har både gynnats av kaos och underblåst kaos att försöka uppnå regional hegemoni, säger han.
Så han tror att "även om det verkligen kan finnas någon tillfällighet av intresse mellan USA, dess koalition allierade i regionen och Iran när det gäller nederlaget av IS (...) är det over-arching sammanhang som ger dig anledning att ha avsevärd försiktighet i hur du går framåt i förbindelserna med Iran".
Gen Petraeus reser fortfarande regelbundet till Irak. Han känner nyckelpersonerna väl. Och även om han är ur uniform och etablerad i en civil karriär som rådgivare, är han fortfarande den man som uppnådde ett slags framgång i Irak.
Det är en handelsvara som i dag saknas för amerikanerna och de irakiska myndigheterna. Detta gör Petraeus approach till en attraktiv modell.
Men frågan kvarstår: Kan resultatet bli detsamma med den irakiska militären i amerikanernas roll?
Före detta CIA-direktör David Petraeus har berättat för BBC att islamiska statliga militanter bara kan besegras genom en dubbel militär och politisk strategi.