A román szatíraírás klasszikus mestere 1852 január 30-án született a Dâmboviţa megyei Haimanale községben – a falu 1952-ben, az író tiszteletére, születésének 100. évfordulóján I. L. Caragiale-re változtatta a nevét. Szülei színészek voltak, az író nagyapja pedig – egy 2002-ben közzétett tanulmány szerint, a korábbi nézetekkel ellentétben – görög bevándorló volt, Kefalloniáról származott, és a család eredeti neve a Karaialis volt. A kis Caragiale 1867-ig Ploieşti-en tanult, de líceumi tanulmányainak utolsó évét már Bukarestben fejezte be. Nagybátyja, Iorgu Caragiale bukaresti színiiskolájában mimikát és szónoklatot tanult, miközben verseit még titokban írta; az irodalmi debütálására még várnia kellett. 18 éves volt, amikor a családja a fővárosba költözött, ő pedig – apja kívánsága szerint – a Prahova megyei bíróságon helyezkedett el, mint írnok. A következő évben a bukaresti Nemzeti Színház súgóként és írnokként alkalmazta (később, alig 36 évesen a színház igazgatói posztját is betöltötte), itt ismerkedett meg Mihai Eminescu-val, a költővel.
Irodalmi debütálására 1873 októberében került sor, a Telegraful lapban: itt a Curiozităţi (Érdekességek) rovat anekdotáiért volt felelős. Ugyanebben az évben kezdte közölni verseit és prózai írásait a Ghimpele folyóirat; ekkor még Car és Policar álnéven alkotott, az igazi nevével először 1874 novemberében találkozhattak az olvasók a Revista comtemporană folyóiratban a Versuri c. költemény publikálásakor, majd decemberben újra, amikor a szerkesztőség tagjai között említették. 
A következő években különböző folyóiratoknál és újságoknál tűnt fel, mint szerkesztő, újságíró – írásaival a Claponul, a Naţiunea română, a România liberă, a Timpul és a Convorbiri literare olvasói találkozhattak, miközben ő egyre nagyobb nevet szerzett a kor irodalmárainak körében. 1878 és 1881 között már olyan nagy nevekkel dolgozott együtt a Timpulnál, mint Eminescu vagy Slavici. Ugyanebben az időben lett a kor egyik legnagyobb irodalmi mozgalmának, a Junimea Társaságnak a tagja, és kötött jó barátságot annak alapítójával, Titu Maiorescuval. Az irodalmi mozgalommal és Titu Maiorescuval a kapcsolata később, 1892-ben megszakadt, amikor az Atheneumban egy, a mozgalom ellen szóló írását olvasta fel. Maiorescuval csak 1908-ban békült ki.
1884 októberében olvasta fel a Junimea alapításának 20. évfordulója alkalmával egyik legismertebb darabját, Az elveszett levelet, amelynek színpadi bemutatója november 13-án, a királynő jelenlétében hatalmas sikert aratott. A mai napig is töretlen népszerűségnek örvendő darab morális üzenete közel 130 év alatt sem kopott meg: a vígjáték a képmutató politikusok egymás ellen vívott álságos harcát parodizálja ki. Időközben folytatta tevékenységét a különböző lapoknál, hol a saját nevével jegyezve írásait, hol pedig álnévvel látva el azokat.
Eminescutól eltérően – aki a hírlapírást polgári küldetésként értelmezte -, Caragiale az újságírói tevékenységét úgy fogta fel, mint egy közvetett pedagógiai eszközt, amit arra használt, hogy az írónia segítségével, tükröt mutasson a társadalomnak. Színes érdklődési körének és írásmódjának köszönhetően Caragiale politikai töltetű írásai is tömény szatirikus összegzésnek tűnnek.
1901 február 23-án írói debütálásának 25. évfordulóját ünnepelte az ország, írók és újságírók, művészek és politikusok rendeztek a számára fogadást, és neves irodalmárok méltatták Caragiale-t. Ünnepi lapot nyomtattak a tiszteletére, amely a Caragiale nevet viselte, a borítón pedig a dramaturgról készített karikatúra díszelgett. Tizenegy évvel később, 1912-ben ehhez hasonló, ám még nagyobb méretű ünnepléssel köszöntötték Caragiale-t 60. születésnapja alkalmából.
1901-ben plágiummal vádolták meg: azt állították, hogy a Năpasta c. darabját Kemény István egyik művéről másolta. A vádaskodó álnéven publikálta vádjait, ám Caragiale rövid úton megtudta a szerző kilétét, és beperelte. Ügyvédje segítségével tisztázta magát a vád alul, de megviselte az ügy, és 1904-ben többek között ennek köszönhetően döntött úgy, hogy Berlinbe költözik. 1905 márciusától véglegesen letelepedett a Német Császárság fővárosában, 1912 június 9-én is itt érte a halál. Testét a bukaresti Bellu temetőben helyezték örök nyugalomra.
Élete során a Nemzeti Színház tüntette ki többször is egy-egy díjjal különböző darabjaiért, az arcképe több postai bélyegre is rákerült, a mai 100 lejes bankjegyen is ő látható. 1948-ban a Román Akadémia posztumusz tagjává választotta. Születésének 160. évfordulóján a Google is rá emlékezik: a keresőmotor logója Caragiale-t idézi.