Легион был основан согласно франко-армянскому соглашению 1916 года в целях национально-освободительной борьбы. За помощь в борьбе с Османской империей Франция обещала предоставить автономию армянам Киликии.
Армянский легион не был единственным армянским воинским соединением участвующим в борьбе против Османской империи в годы первой мировой войны, кроме него существовали части армянских добровольцев и армянская милиция.
Первоначально получил название La Légion d’Orient (Восточный легион). Был переименован в La Légion Arménienne (Армянский легион) 1 февраля 1919 года.
Первые бои с участием Армянского легиона состоялись 19 сентября 1918 года в Палестине, в дальнейшем, в составе англо-французских войск легион участвовал в боях за Сирию и Ливан.
В октябре 1918 года число легионеров-армян достигло 5 тысяч и после того как Армянский легион вступил в Киликию, после ряда побед в мае 1919 года она была объявлена независимым государством.
Однако существование его было недолгим, так как во внешней политике Франции произошёл поворот в сторону улучшения отношений с Турцией, что вызвало недовольство среди солдат легиона. Как следствие Армянский легион начали сокращать, а в августе 1920 года окончательно распустили.
