Judo algushetkeks peetakse 1882. aasta maikuud. Sel ajal lõi Tokyo budistliku kloostri Eishoji juures kooli nimega Kodokan 21-aastane jaapanlane Jigoro Kano.

Judo tekkis jiu-jitsu baasil, mis omakorda pärineb iidsest rahvuslikust maadlusstiilist sumost.

Jiu-jitsu („pehme kunst“) tekkis kui ilma relvata võitlusviis.

Legend pajatab, et selle võitluskunsti alused lõi arst Sirobei Akijama. Kord, kui ta jalutas varahommikul metsas, märkas ta, et suurte puude oksad on murdunud eelmise päeva lume raskuse all ning ainult väikene puuke seisis uhkelt nagu midagi poleks olnud: tema oksad olid heitnud endalt raskuse, kui nad olid vajunud maapinnani ning taas sirutanud end. Nähes sellist ime, hüüatas Akijama :„ Võita, järele andes!“

Jiu-jitsu meister erines teistest mitte ebatavalise jõu poolest, vaid hämmastava kehavaldamise, nõtke paindlikkuse ja oskuse poolest vastase jõudu oma huvides ära kasutada. Feodaalsete sõdade aegu 17-19 sajandil saavutas samuraide sõjalisse ettevalmistusse kuuluv pehme võitlusstiil oma õitseaja, koolide arv lähenes tuhandele.

Kuid uue epohhi algus, Jaapani avastamine maailma poolt ja radikaalsed kodanlikud reformid viisid selleni, et jiu-jitsu langes tsivilisatsiooni saagiks ning sõdalased kaotasid oma töö.

Pehmel kunstil ei lasknud igavikku kaduda noor teadlane, teerajaja ja pedagoog Jigoro Kano (1860-1938). Üldistades erinevate koolkondade kogemust, süstematiseerides parimaid heited ning välistades eluohtlikke, lõi ta judo- uue maadluse, mis tähendas tõlkes „pehmet teed“. Kano idee ole, et judost saaks „võitluskunst noortele keha treenimiseks ja üldiseks harimiseks, filosoofiaks, igapäevaelu kunstiks“, mis oleks hinnaliste rahvuslike traditsioonide hoiulaegas.

1886. aastal tunnustati judot riiklikul tasemel ning seda hakati õpetama sõjalistes ja politseiakadeemiates, peagi lisati ta kesk-ja kõrghariduslikes institutsioonides füüsilise ettevalmistuse kavva.

1889. aastal laiendas Kano oma tegevust Euroopasse avades isiklikult esimese kooli Prantsusmaal. Peagi levis judo sealt edasi Suurbritanniasse.

Huvi imepärase maadluse vastu ilmutas ka USA president Theodore Roosevelt, kes tegeles sageli selle tarvis varustatud saalis ning talle usaldatud jaapanlasest õpetaja käe all otse Valges Majas.

Judo austajaks võib lugeda ka suurt india mõttetarka Rabindranat Tagore’i.

Judo arengu peatas mõneks ajaks Teine Maailmasõda. Vaatamata sellele, et Kano protestis avalikult mitmeid kordi ühiskonna militariseerimise ja sellekohase harimise vastu, sattus judo Ühendriikide okupatsioonivalitsuse poolt koostatud keelatud võitlusalade nimekirja. Keeld hiljem siiski kõrvaldati ning liikumine „pehmel teel“ võttis pöördumatu suuna.

Olümpialiikumise internatsionaliseerimine ja areng on viinud selleni, et esiplaanile judos on tõusnud sportlik koostisosa.

1951. aasta juulis loodi Rahvusvaheline Judo Föderatsioon, tema president on Jigoro Kano ainus poeg, Risei.

1956. aastal toimusid Tokyos esimesed Maailmameistrivõistlused, millest võtsid osa 31 esindajat 21-st riigist.

Olümpiamängude kavva lülitati judo 1964. aastal.

Naiste judo võlgneb tänu Jigoro Kano abikaasale, kes oli ala tulihingeline entusiast. Esimesed Maailmameistrivõistlused naistele toimusid 1980. aastal, aga Olümpiamängudel osalevad naisjudokad alates 1992. aastast.

Tänapäeval kuuluvad Rahvusvahelise Föderatsiooni 182. riigi esindajad.  Jaapanis tegeleb judoga regulaarselt 8 miljonit inimest, ülejäänud maailmas üle 20. miljoni. Alale pühendunud inimeste arvu poolest jääb judo alla vaid jalgpallile.