Герцен родился в семье богатого помещика Ивана Алексеевича Яковлева (1767—1846), происходившего от Андрея Кобылы (как и Романовы). Мать — 16-летняя немка Генриетта-Вильгельмина-Луиза Гааг (нем. Henriette Wilhelmina Luisa Haag), дочь мелкого чиновника, делопроизводителя в казённой палате в Штутгарте. Брак родителей не был оформлен, и Герцен носил фамилию, придуманную отцом: Герцен — «сын сердца» (от нем. Herz).В юности Герцен получил обычное дворянское воспитание на дому, основанное на чтении произведений иностранной литературы, преимущественно конца XVIII века. Французские романы, комедии Бомарше, Коцебу, произведения Гёте, Шиллера с ранних лет настроили мальчика в восторженном, сентиментально-романтическом тоне. Систематических занятий не было, но гувернёры — французы и немцы — сообщили мальчику твёрдое знание иностранных языков. Благодаря знакомству с творчеством Шиллера, Герцен проникся свободолюбивыми стремлениями, развитию которых много содействовал учитель русской словесности И. E. Протопопов, приносивший Герцену тетрадки стихов Пушкина: «Оды на свободу», «Кинжал», «Думы» Рылеева и пр., а также Бушо, участник Великой Французской революции, уехавший из Франции, когда «развратные и плуты» взяли верх. К этому присоединилось влияние Тани Кучиной, молоденькой «корчевской кузины» Герцена (в замужестве Татьяна Пассек), которая поддерживала детское самолюбие молодого фантазёра, пророча ему необыкновенную будущность.Уже в детстве Герцен познакомился и подружился с Николаем Огарёвым. По его воспоминаниям, сильное впечатление на мальчиков (Герцену было 13, Огарёву 12 лет) произвело известие о восстании декабристов 14 декабря 1825 года. Под его впечатлением у них зарождаются первые, ещё смутные мечты о революционной деятельности; во время прогулки на Воробьёвых горах, мальчики поклялись бороться за свободу.Уже в 1829—1830 годах Герцен написал философскую статью о «Валленштейне» Ф. Шиллера. В этот юношеский период жизни Герцена его идеалом был Карл Моор — герой трагедии Ф. Шиллера «Разбойники» (1782).
