在中國古代的許多典籍里，有“刑始于兵”，“師出以律”的記載，“兵律”、“軍律”等軍法也有許多專篇。特別是到了唐代出現(xiàn)了一套完整的包括“律”、“令”、“格”、“式”俱全的軍法，如《衛(wèi)禁律》、《擅興律》、《捕亡律》、《官衛(wèi)令》、《軍防令》、《兵部式》、《兵部格》等，詳細地規(guī)定了軍人的職守、賞罰。凡是違犯了“令”、“式”中的有關(guān)規(guī)定，就要按“律”、“格”進行懲處。
而最早的軍法出于何時呢？還是一個謎。
軍法是治軍的法規(guī)，它是統(tǒng)治階級意志的表現(xiàn)，具有階級性、強制性。在中國的原始社會，由于那時處在公有制和軍事民主時期，戰(zhàn)爭的勝敗直接關(guān)系到部落的每個成員的生死存亡，作戰(zhàn)時常常都是男女老幼志愿參加，不需要用帶有強迫性的軍法來進行約束。
隨著私有制的產(chǎn)生，階級的形成，氏族制度的瓦解和奴隸制國家的建立，戰(zhàn)爭開始成為爭奪政權(quán)和鞏固政權(quán)的斗爭，原始社會時期軍事民主制下的群眾武裝，開始蛻變?yōu)橛膳`主操縱的、專為壓迫大多數(shù)人和掠奪財物的、奪取和維護奴隸主政權(quán)的軍隊。
這時，戰(zhàn)爭的勝敗，直接關(guān)系到奴隸主貴族的切身利益。而對于軍隊的大多數(shù)成員——平民和奴隸——一來說，則關(guān)系甚小，他們對待戰(zhàn)爭的態(tài)度沒有貴族那樣積極。為了鼓勵參戰(zhàn)，提高軍隊的士氣，便出現(xiàn)了帶有強制性的各種行為規(guī)則和明確的賞罰規(guī)定。
對立功的軍人，按圣旨或軍律賞賜錢財、官爵、田地、奴仆，對違犯紀(jì)律和軍律的官兵，處以殺戮、鞭打、徒刑等處罰。如《尚書·甘誓》中記載：夏王啟，為了確立其統(tǒng)治地位與有扈氏大戰(zhàn)于甘（今陜西戶縣西南）時，在戰(zhàn)前，召集了帶領(lǐng)軍隊的六個貴族，進行戰(zhàn)前動員和宣布作戰(zhàn)紀(jì)律、賞罰標(biāo)準(zhǔn)。
規(guī)定凡是服從命令，忠于職守、勇敢戰(zhàn)斗、努力完成作戰(zhàn)任務(wù)的，就在宗廟里予以獎賞；不努力執(zhí)行命令，完不成作戰(zhàn)任務(wù)的，就要殺死在宗廟里或者降為奴隸。“大戰(zhàn)于甘，乃召六卿。王曰：……用命，賞于祖；弗用命，戮于社。予則拏戮汝”。這種簡單的口頭規(guī)定軍隊紀(jì)律與賞罰的做法，是早期的軍法。
有的認(rèn)為，這種口頭規(guī)定的紀(jì)律與賞罰，雖然帶有軍法的含義，但有很大的隨意性，而且賞罰也不容易一致，還不能算是軍法。我國的軍法大約形成于春秋、戰(zhàn)國之交。因為這時，各諸侯國頻繁進行“爭霸”、“攻戰(zhàn)”，為了提高軍隊?wèi)?zhàn)斗力，各諸侯國對攻戰(zhàn)的賞罰都作了明文規(guī)定，建立起了一套以軍功授爵制為中心的賞罰制度，并與嚴(yán)格而殘酷的刑罰結(jié)合在一起，從而形成了帶有強迫性的、為統(tǒng)治階級服務(wù)的軍法。
這些軍法，雖然由于各諸侯國的情況不盡相同，實行的程度也不盡一致，但基本的精神都是根據(jù)官兵在戰(zhàn)爭中的表現(xiàn)和貢獻，給予一定的獎勵或懲罰。當(dāng)時，實行得比較徹底，規(guī)定也比較具體的是秦國，而且在商鞅變法時就全面推行了這種制度。
據(jù)出土的秦簡《軍爵律》和《商子》等文獻可以看到賞罰的具體規(guī)定。如：士兵個人，在戰(zhàn)爭中殺敵一人者，免除其全家徭役和賦稅；士兵個人斬殺敵軍官一名，并取得其首級者，授爵一級，賜田一頃，宅九畝和賞給一個農(nóng)奴（庶子）；大部隊作戰(zhàn)，在攻城戰(zhàn)斗中斬首八千以上，野戰(zhàn)中斬首二千以上，均評為“滿功”，部隊內(nèi)各級軍官都升一級，其中功大者可升三級；士兵五人一伍，其中一人逃跑，余下四人處以二年以上徒刑；畏死不前，臨陣脫逃者，處以死刑，在千人大會上車裂等等。
此外，春秋末期的大軍事家孫武，在其所著的《孫子》兵法一書中，也把軍法列為進行戰(zhàn)爭的五大要素之一。寫著：“故經(jīng)之以五事，校之以計而索其情：一曰道，二曰天，三曰地，四曰將，五曰法”。顯然，當(dāng)時的軍法已經(jīng)成為軍隊建設(shè)和進行戰(zhàn)爭的重要內(nèi)容。
但是，也有的認(rèn)為軍法形成的時間還要早。據(jù)《周禮·夏官》記載：“國有大事，則帥國子而致天大子，惟所用之。若有甲兵之事，則授之車甲，合某卒伍，置其有司，以軍法治之”。從這段文字看，顯然早已存在軍法。另據(jù)《司馬法》記載說：虞舜時代的作戰(zhàn)命令，是勸告式的，希望民軍體念君王的困難，自動應(yīng)命為國效力。
夏代的作戰(zhàn)命令是強迫式的，在組成的軍隊中下達，希望民軍完成君王所考慮的任務(wù)，商代的作戰(zhàn)命令也是強迫式的，在軍隊列陣處下達，以統(tǒng)一全體的意志，共同對敵作戰(zhàn)。周代的作戰(zhàn)命令也是強迫式的，在和敵人將要交鋒時才下達，用以激勵士氣，鼓舞斗志。“有虞氏戒于國中，欲民體其命也。夏后氏誓于軍中，欲民先成其慮也。殷誓于軍門之外，欲民先意以待事也。周將交刃而誓之，以致民志也”。
我們從這些記載中可以看出，軍法的形成正和其它事物一樣，有一個形成和充實的過程，那么，到底形成于春秋、戰(zhàn)國之交？還是夏朝之初？還需要進一步探討。