Его назвали по армянской диаспоре, жившей здесь с конца XVI века. Центром общины была купеческая семья Лазаревых. Это был богатый род, на чьи средства было построено много важных социальных объектов. Один из главных – армянское училище, преобразованное в Лазаревский институт восточных языков (ныне посольство Республики Армения).
Кстати, один из представителей семьи, Иван Лазаревич, был придворным ювелиром Екатерины II, именно он доставил в Россию знаменитый бриллиант Орлова. Также он немало сделал для переселения армян в Россию.
Удивительно, но Армянский переулок смог уберечься от пожара 1812 года. Как же так получилось? Есть несколько версий. По одной из них, выходцы из Армении представлялись французской армии как иноземцы. Поэтому жителям переулка удалось сохранить свои жилища. Причём отсюда вытекает вторая версия. Якобы поджечь дома в переулке не удалось, так как жители обратились к личному охраннику Наполеона выделить охрану. Он был армянином, звали его Рустам.
Одной из спасённых усадеб оказался дом семейства Тютчевых, которые за два года до Отечественной Войны приобрели его.
Поэт Фёдор Тютчев жил здесь с родителями до 1822 года. Сюда часто приезжали гости, среди них будущие декабристы Д. И. Завалишин и И. Д. Якушкин, бывшие родственниками Тютчевых. В 1831 году Тютчевы продали усадьбу Московскому попечительству о бедных, которые разместили в ней богадельню, получившую по имени одного из благотворителей название Горихвостовская. Сейчас в усадьбе располагается Российский детский фонд.