Фонотека начала формироваться в начале 1930-х годов, когда был создан Карельский научно-исследовательский институт (в настоящее время - Институт ЯЛИ КарНЦ РАН) - первое научное учреждение в Карелии. В составе института была этнографо-лингвистическая секция, перед которой была поставлена задача изучения фольклора и языков народов Карелии.Первые звуковые записи произведений карельского и северно-русского фольклора были сделаны в предвоенные и послевоенные годы на восковых валиках, на студийной ферроплёнке, на использованной ренгеновской пленке (гибкие грампластинки "на костях"). Первоначально они хранились в Научном архиве Карельского филиала АН СССР.
Последние грамзаписи датируются маем 1941 г. В годы Великой Отечественной войны грампластинки вместе с другими архивами были вывезены в эвакуацию. Обратно они вернулись не полностью, так как частично были утрачены во время переезда. То, что удалось сохранить, составляет большую научную и культурную ценность.
Первые послевоенные записи относятся к 1947 году.
В 1956 году по решению Президиума Карельского филиала АН СССР в структуре филиала создаетcя кабинет звукозаписи, в штат которого вводятся должности двух сотрудников (протокол № 10 от 5 сентября) и ценнейшая коллекция гибких грампластинок была передана в фонотеку кабинета. 1956 год можно считать годом создания Фонограммархива ИЯЛИ.
Первым руководителем кабинета звукозаписи в 1957 г. стала выпускница Московской консерватории Светлана Николаевна Кондратьева. С 1957 г. в кабинете звукозаписи ведется научная работа с фонотекой, ее систематизация.
С 1957 г. сотрудники ИЯЛИ стали использовать для записи в экспедициях магнитофоны. Языковеды, фольклористы, этнографы отправлялись в районы Карелии и в сопредельные области с
тяжелыми магнитофонами и небольшим запасом магнитофонной плёнки. Впоследствии удалось получить более лёгкие и технически совершенные средства для фиксации материалов в экспедициях. В настоящее время записи ведутся на компактные диктофоны, видео- и фотокамеры.Постепенно был собран один из крупнейших звуковых научных архивов в России. Систематические записи производились на территории Карелии, Архангельской, Вологодской областей на диалектах северно-русского наречия, карельского, вепсского, финского (ингерманландского), ижорского, ливского, саамского языков.
Благодаря собранным и расшифрованным материалам исследователи института подготовили фундаментальные труды в области языкознания, фольклористики, этнографии; изданы словари вепсского и карельского языков, опубликованы образцы речи и сборники фольклорных произведений. Большинство книг размещено в электронной библиотеке "Издания ИЯЛИ".Неоднократно разрабатывались системы учёта и описания хранящихся в архиве записей на карточках и в журналах.
В 1998 г. была поставлена задача цифровизации архива, которая решалась в сотрудничестве с Институтом прикладных математических исследований (ИМПИ) КарНЦ РАН.
Руководителями творческих групп были разработаны проекты, направленные на формирование фонда цифровых копий хранящихся в архиве аудиозаписей. Они были поддержаны РГНФ, Президиумом РАН, Министерством РК по национальной политике и связям с общественными объединениями, Советом Министров северных стран.
В 2012 году кабинет звукозаписи был преобразован в Фонограммархив.
В 2016 году был создан "Электронный каталог фонограммархива ИЯЛИ КарНЦ РАН" и получено Свидетельство о государственной регистрации базы данных и программы для ЭВМ "Система управления базой данных".
Продолжаются работы по оцифровке магнитофонных и видеозаписей, пополнению электронного каталога, развитию сайта. Новые экспедиционные материалы принимаются в архив только в цифровой форме. Совершенствуется учетный и поисковый инструментарий и интерфейс электронных ресурсов.
В 2016 году был создан "Электронный каталог фонограммархива ИЯЛИ КарНЦ РАН" и получено Свидетельство о государственной регистрации базы данных и программы для ЭВМ "Система управления базой данных".
Публикации по истории фонограммархива
— В.П. Кузнецова. Фонограммархив Института ЯЛИ КарНЦ РАН: 55 лет истории // Методика полевых работ и архивация фольклорных, лингвистических и этнографических материалов. Материалы VI научно-практического семинара. Петрозаводск, 27-28 марта 2013 г. Петрозаводск: Карельский научный центр Ран, 2013. С. 34-41.