Гимнастические упражнения культивировались ещё в древнем мире. Ещё за 4000 лет до нашей эры в Китае, Индии и у других народов гимнастические упражнения применялись в лечебных целях. В китайских книгах тех времен указывается на то, что в Китае существовала гимнастика, которой занимались дома утром и вечером. Широко известная в настоящее время система гимнастических упражнений индийских исторических источников (памятники, фрески, рисунки) известно, что гимнастические упражнения применялись у всех древних народов: у египтян, персов, ассирийцев, народов Закавказья, римлян и др. Некоторые гимнастические снаряды, например конь, существовали ещё в древности. На коне делали гимнастические упражнения, помогающие освоить верховую езду. В древности гимнастика в лечебных целях применялась также в Индии, Китае, но там они превратились в духовные практики, своеобразные языческие религии (например, йога) и поэтому не имели такой массовости, как в Греции и Риме, где гимнастика была просто подготовкой воинов.

Термин «гимнастика» впервые появляется у древних греков в период расцвета древнегреческой культуры в 8 веке до н. э. Гимнастические упражнения входили в систему физического воспитания в Древней Греции, служили средством подготовки юношей к участию в Олимпийских играх. Олимпийские игры проводились на протяжении 1168 лет (776 год до нашей эры — 392 год нашей эры), включали борьбу, метание копья, диска, прыжки в длину, бег, бой на кулаках, колесничная езда. Основной целью этих игр — военная подготовка юношей. Бегали со щитом, прыгали с гантелями, борьба переходила в бокс, а кулачный бой проходил с помощью твердых кожаных, а не смягчающих повязок на руку. В 393 году гимнастику запретили, поскольку она продолжала иметь языческую основу и плохо влияла на нравственное воспитание молодежи.

С конца XVIII — начала XIX века в западноевропейских и русской системах физического воспитания использовались упражнения на гимнастических снарядах, опорные прыжки. Во второй половине XIX века в ряде стран Западной Европы стали проводиться соревнования по некоторым видам гимнастических упражнений.