Początki tradycyjnego ju jitsu trudne są do ustalenia. Ta sztuka walki nie pochodzi od jednego nauczyciela, jak wiele nowoczesnych sztuk czy systemów walki (m.in. aikido, karate Shotokan, czy karate Kyokushin). Jest to raczej wynik długiej ewolucji możliwej dzięki niezliczonej ilości wspaniałych mistrzów, z których każdy wywarł piętno na końcowym wizerunku sztuki. Ju jitsu powstawało na polach bitewnych starożytnej Japonii, jako dopełnienie umiejętności walki tradycyjną bronią (miecz, włócznia).
Tradycyjne ju jitsu nie było sztuką przeznaczoną wyłącznie do obrony. Stosowano je, aby skutecznie unieszkodliwić przeciwnika i zminimalizować możliwość kontrataku. Rzuty, a takie techniki przeważały z uwagi na użycie ciężkiej zbroi, wykonywano w taki sposób, aby jeszcze przed przewróceniem przeciwnika złamać mu przynajmniej jedną kończynę. Oponenta kierowano w taki sposób, aby upadł na głowę, co kończyło się złamaniem karku lub co najmniej poważną kontuzją kręgosłupa. Rzuty uzupełniano technikami kończącymi – uderzeniami, trzymaniami, duszeniami i w razie potrzeby dobiciem przeciwnika ciężkim nożem yoroi doshi (,,przekłuwacz zbroi”). Aktualnie takie formy wykonywania rzutów są oczywiście surowo zakazane, zarówno w sportowym judo, jak i współczesnym ju jitsu.

Przez setki lat ju jitsu funkcjonowało pod różnymi nazwami, m.in. kumiuchi, yawara, torite, aikijujutsu, taijutsu, ju jutsu, judo. Po raz pierwszy użycie nazwy ,,ju jitsu” miało miejsce w XVIII wieku.
Do najważniejszych szkół należały:
- Takenouchi-ryu,
- Kito-ryu i Jikishin-ryu,
- Kyushin-ryu,
- Yoshin-ryu,
- Tenshin-shin’yo-ryu,
- Sekiguchi-ryu.