Magánélete párhuzamosan csillogó karrierjével épp ellenkezőleg alakult. Amellett, hogy több jogi ügybe is belekeveredett, életrajzából kiderült, hogy a színész sokáig úgy tudta, hogy az anyja valójában a nővére. Az igazságra csak a nő halála után jött rá.
A Time magazin 1974-ben végzett vizsgálata szerint kiderült, hogy Nicholson édesanyja valójában a nővérének adta ki magát, hogy táncos karrierjét fenntartsa. A New Jerseyben született Nicholson édesanyja – June – mindössze 17 éves volt, amikor életet adott a színésznek. A nagyszülők pedig szülőként viselkedtek.
A nagymamám és az édesanyám is elhunyt, ezután tudtam meg az igazságot. Nagyon lenyűgözött a képességük, hogy ha más nem is, de meg tudták őrizni a titkukat. Nagyszerű dolgokat tettek értem.
– mondta a színész egy interjúban.
A pillanatra, amikor rádöbbent az igazságra így emlékezett vissza:
Azt mondanám, hogy elég drámai esemény volt, de nem nevezném traumatizálónak. Végül is, mire rájöttem, hogy ki az anyám, már egy felnőtt ember voltam. Nem voltam mérges, hálát éreztem.
Több forrás is azt állította, hogy Nicholson a biológiai apját illetően is bizonytalan volt, egyes hírek szerint az édesanyja menedzsere lehetett.