Det kommer efter Storbritanniens största undersökning om påstådd försummelse i sex hem - Operation Jasmine - som kostade 11,6 miljoner pund.
Två ägdes av dr Prana Das, som en gång ägde 25 bostäder i södra Wales.
Men fallet kollapsade efter att han hade fått en hjärnskada och kunde inte ställas inför rätta.
Familjerna lämnades "frustrerade" i sitt sökande efter rättvisa.
Jones, som gjorde sitt tillkännagivande, sade att han inte ville att händelserna för tio år sedan skulle upprepas.
"Jag anser att vi behöver en fullständig och oberoende granskning av dessa händelser för att förstå om det finns något annat inom socialvården och beslutsfattare behöver lära sig, allt annat vi behöver sätta på plats", sade han till församlingens medlemmar.
"Jag förväntar mig att översynen ska tala med familjerna till de inblandade samt de berörda lokala myndigheterna, polisen, yrkesutövarna och tillsynsmyndigheterna."
Operation Jasmine var en omfattande undersökning som finansierades av hemkontoret och som pågick i sju år, med 75 poliser och 4 126 uttalanden.
Den identifierade 100 potentiella offer.
Det grundades i oktober 2005 efter att Gladys Thomas, 84, en patient på Bryngwyn Mountleigh vårdhem i Newbridge, togs in på Newports Royal Gwent sjukhus efter att ha fått felaktiga doser av läkemedel. Hon dog senare.
En sjuksköterska i hemmet erkände försummelse på grundval av att han inte gav rätt medicin.
Åtta vårdare och sjuksköterskor anklagades för uppsåtlig försummelse i samband med skador på hennes kropp, men åklagaren släppte fallet tre veckor in i rättegången 2008.
Doktor Das, 66, åtalades för försummelse och bedrägeri vid två vårdhem - Brithdir Care Home i New Tredegar, nära Bargoed, och The Beeches i Blaenavon.
Granskningen kommer att ledas av dr Margaret Flynn, som har varit inblandad i tidigare allvarliga fall som rör äldre och är ordförande för Lancashires styrelse för skydd av vuxna.
The Older People's Commissioner for Wales Sarah Rochira sade: "Familjen till offren för den påstådda misshandeln och försummelsen som utreddes av Operation Jasmine, som jag har träffat många gånger, har sagt till mig att de vill ha svar på vad som hände med deras släktingar och hur övergrepp och försummelse i den omfattning som påstås kunde ha ägt rum.
"Men mest av allt, de har sagt till mig att de vill se till att det inte kan hända igen till någon annan."
Shadow social service minister William Graham sade att han välkomnade tillkännagivandet "helhjärtat".
Han sade: "Översynen måste vara omfattande och omfattande och det gläder mig att höra att den förste ministern förbinder sig till detta.
"Allt måste göras för att se till att händelser av detta slag aldrig får hända igen
Blaenau Gwent MP Nick Smith sa att familjer hade velat ha svar och rättvisa.
"Utan den förste ministerns djärva beslut idag skulle dessa familjer ha svikits av systemet", sade han.
"Deras smärta och skuld över det som hände deras nära och kära förtjänade ett svar, och jag kan inte nog välkomna detta svar."
Lib Dem talesman för äldre människor Aled Roberts AM tillade: " Bara hoppas att liknande brister inte händer igen är helt enkelt inte tillräckligt.
"Vi måste få veta hur en sådan katalog över brister tilläts inträffa och lära oss av tidigare brister i systemet, så att åtgärder kan vidtas för att förhindra att dessa tragedier händer igen."
En oberoende granskning ska hållas för att dra lärdom av ett fall av påstådda övergrepp på vårdhem i södra Wales, har förste minister Carwyn Jones meddelat.