Автомат разрабатывался под промежуточный патрон 7.62х39мм образца 1943 года. В окончательном виде (перед приемом на вооружение) АК представлял собой автоматическое оружие, построенное по газоотводной схеме с длинным ходом газового поршня. Поршень вместе со штоком выполнены единым блоком с затворной рамой, газовая камора располагается над стволом. Затвор поворотный, запирает ствол на 2 массивных боевых упора за вырезы в ствольной коробке. Ударно-спусковой механизм - курковый, имеет 2 режима огня - "автоматический" и "одиночный". Переключение режимов огня и управление предохранителем осуществляются рычагом-переводчиком характерного вида, расположенным на правой стороне ствольной коробки. Свтольная коробка фрезерованная, крышка ствольной коробки - штампованная. Канал ствола и патронник - хромированные. Приклад, рукоятка управления огнем и цевье выполнены из дерева. У варианта АКС/АКМС вместо деревянного устанавливается металлический приклад, складывающийся вниз. Одна из основных особенностей работы автоматики АК, определяющая как достоинства,так и недостатки конструкции это принятая схема автоматики с массивным узлом запирания (затвор/затворная рама/газовый поршень со штоком), двигающаяся в процессе работы с высокой скоростью и приходящая в крайние положения (переднее и заднее) с большим запасом энергии, что приводит к возникновению дополнительных колебаний оружия при стрельбе очередями. Достоинство такой схемы в том, что она обеспечивает запас энергии, необходимый при работе в условиях сильного загрязнения механизмов. Недостаток его является ухудшение кучности стрельбы очередями по стравнению с системами, имеющими подвижные элементы механизма меньшей массы и демпферы отката затворной рамы (например, М16).

В 1959 году АК был модифицирован и принят на вооружение под индексом АКМ, в котором ствольная коробка стала изготавливаться штамповкой, масса уменьшилась на 700г и был введен новый штык-нож. Кроме того были изменены штамповка крышки ствольной коробки и введено замедление срабатывания курка. На ствол стал устанавливаться специальный компенсатор, уменьшающий увод ствола вверх и влево при автоматической стрельбе. Все варианты АК и АКМ могут оснащаться съемным глушителем.Вообще, АК/АКМ разработан под существовавшую на тот момент военную доктрину - максимально дешевым, надежным и простым, причем при этом несколько пострадали удобство использования и точность стрельбы. Малоудобный переводчик-предохранитель можно переключать только правой рукой, длина прицельной линии сравнительно мала (насечка прицела до 1000 метров больше похожа на шутку - эффективная дальность стрельбы из АК вряд ли превышает 500 метров, а дальность прямого выстрела - и того меньше). В 1974 году на смену АКМ и РПК официально принимается на вооружение система оружия под новый, малокалиберный патрон калибра 5.45мм - АК-74, АКС-74 и РПК-74.