Op zoek naar de vroegste oorsprong van wushu, de kunst van het vechten, komen we uit bij de primitieve mens en de noodzaak om te overleven in moeilijke omstandigheden. Mensen moesten zich verdedigen tegen wilde dieren en andere mensen en ook op jacht gaan. Daarom ontwikkelde de mens toen niet alleen werktuigen maar ook wapens. Met deze wapens kunnen omgaan lag aan de basis van de vechttechnieken uit de wushu van latere tijden.
Archeologen hebben verschillende wapen-artefacten uit het Neolithisch en vroeg Brons tijdperk gevonden zoals pijlpunten, sikkels, dolken, bijlen, enz. In deze periode kwamen oorlogen tussen de verschillende stammen veelvuldig voor en deze wapens werden daarbij gebruikt en zo kwamen ook de vroegste wushutechnieken tot stand. In deze vroege tijden ontstaan ook de eerste rituele vormen van krachtmeting zoals Jiao Di en Chi You. Jiao Di was een voorloper van het Chinese worstelen en bij Chi You droegen de tegenstanders een gehoornde helm waarmee ze elkaar met het hoofd te lijf gingen.
Tijdens de Shang Dynastie (ongeveer 1556 tot 1046 v.Chr.), het Westerse Zhou tijdperk (1046 tot 771 v.Chr.), het Lente en Herfst tijdperk (771 tot 476 v.Chr.) en het tijdperk van de Strijdende Staten (481 tot 221 v.Chr.) zien we hoe wushu zicht verder ontwikkelt tot een gespecialiseerd systeem van vechten met en zonder wapens. Wapens worden in de loop van die jaren ook gesofistikeerder. In die tijd werd wushu trouwens niet alleen meer beoefende door soldaten maar ook door de gewone burgers om zichzelf te kunnen verdedigen of voor het plezier van te vechten. Tijdens het Lente en Herfst tijdperk gaf Confucius al aan dat de mensen een vorming moesten krijgen in de literaire zowel als in de krijgskunst (Wen Wu). In deze periode zien we het ontstaan van specifieke krijgskunstsystemen.
Tijdens de Qin Dynastie (221 tot 206 v.Chr.) werd China voor een eerste keer één gemaakt en ontstond er voor de eerste keer een gecentraliseerd keizerrijk. Maar daarna volgden nog vele eeuwen van conflict, vooral tijdens de Han Dynastie (206 v.Chr. tot 220 n.Chr.) en de Tang Dynastie (618 tot 907 n.Chr.). In die tijdperken escaleerde de oorlog en was er een grote nood aan nieuwe wapens en vechtmethoden en dit leidde tot een verdere ontwikkeling van de krijgskunst. Maar ook buiten de oorlogen vervulde wushu een grotere rol. Het effect op de gezondheid werd verder onderzocht en wushu diende ook voor vermaak. Zo waren er voorstellingen waar krijgskunst een belangrijke rol in speelde en werden er ook wedstrijden georganiseerd tussen kampers met de nodige beschermende kledij of ander materiaal. Shou bo en andere varianten van worstelen werden zeer populair en aan het Keizerlijke hof werden regelmatig wedstrijden georganiseerd en van daaruit verspreidde dit gebruik zich ook onder het gewone volk.
In het jaar 495 werd in het Song gebergte de Shaolin tempel opgericht en het beoefenen van wushu werd daar bij de monniken aangemoedigd. Latere generaties van monniken combineerden de filosofie van het Chan boeddhisme met krijgskunst en zo ontstond Shaolinquan.
In latere tijden werden bij het oorlogvoeren ook vuurwapens gebruikt maar in het leger bleven de zogenaamde koude wapens nog zeer belangrijk voor het trainen van de soldaten. Er kwamen militaire examens voor al wie het leger wou vervoegen en de kennis van wushutechnieken, met en zonder wapens, was daarbij een belangrijke vereiste. Ook onder het gewone volk ontstonden afzonderlijke stijlen en technieken. Gedurende de Ming Dynastie (1368 tot 1644) werd wushu verder gesystematiseerd. Zo sprak men van drie verschillende categorieën van training: Gongfa, de ontwikkeling van basisvaardigheden; Taolu, het uitvoeren van gestandaardiseerde routines; en Ge Dou, de lijf-aan-lijf gevechten. In die periode werden ook verschillende handboeken en kronieken over krijgskunst gepubliceerd. Het bekendste werk uit die periode is ongetwijfeld het boek van Qi Jiquang, Kronieken van Militaire Training, waarin hij de verschillende technieken en stijlen van wushu die hem bekend waren beschrijft.
Tijdens de Qing Dynastie (1644 tot 1911) werden vuurwapens bij oorlogsvoering steeds belangrijker en geraakten de traditionele wushutechnieken onder militairen in onbruik. Maar onder de bevolking leefde wushu voort als middel om zich te verdedigen tegen bandieten en om de gewassen op het veld te beschermen tegen plunderaars. Wushu beoefenen werd in die periode ook meer en meer geassocieerd met volkswijsheid en werd meer en meer gezien als een volledig systeem om gezond te blijven. Populaire filosofieën zoals het Daoïsme geraakten verweven met de krijgskunst en uit deze combinatie van ideeën en oefeningen ontstonden in die periode stijlen zoals Xingyiquan, Baguazhang en Taijiquan. Bij deze stijlen lag de nadruk niet alleen op het martiale maart ook op filosofische principes en ook lichamelijke gezondheid en welzijn speelden er een grote rol in.
In de eerste helft van de 20e eeuw werden er in China verschillende instituten opgericht om wushu te promoten en om er verder onderzoek naar te doen. Zo ontwikkelde wushu zich stilaan tot een populaire sport en er werden op vele plaatsen kampioenschappen gehouden. In 1923 werd er in Shanghai 
voor de eerste keer een nationale wushukampioenschap georganiseerd. In 1928 werd in Nanjing, de nieuwe hoofdstad van China, de Nanjing Guoshu Guan opgericht, en daarmee werd meteen een nieuwe naam gegeven aan wushu, nl. guoshu of nationale kunst en daarmee werd aangegeven dat het de bedoeling was om wushu verder te systematiseren en te verspreiden over het gehele land zodat het een echte nationale, natiewijde sport zou worden.
In 1929 werd Wushu Taolu opgenomen in de 3e Nationale Spelen van China. In 1936 werd tijdens de XIe Olympische Spelen in Berlijn een wushu demonstratie gegeven. Tijdens de latere jaren van de Republiek ontwikkelde wushu zicht verder en na de oprichting van de Volksrepubliek China werd wushu verder gesystematiseerd en daardoor op een hoger niveau getild. In 1985 werd in Xi'an een eerste Internationaal Wushu tornooi gehouden en tijdens dat tornooi werd ook een comité gevormd om de oprichting van een Internationale Wushu Federatie voor te bereiden. Dit leidden in 1990 tot de officiële oprichting van het IWuF.
