В результате систематического самообразования он стал высокообразованным человеком своего времени. Глубокое изучение истории и состояния русской педагогики позволило ему стать выдающимся просветителем казахского народа. Сам И. Ал-тынсарин написал для учащихся русско-казахских школ два учебных пособия: «Киргизская хрестоматия» и «Начальное руководство к обучению киргизов русскому языку».
Ибрай отмечал, что «школы — это главные пружины образования» казахов. Он мечтал об открытии светских школ для казахских детей.
И. Алтынсарин. Конец XIX в.
Зная, что учебная и научная литература светского характера имеется в русских школах, он выступал за получение образования именно через русский язык. Тургайское Областное правление поручило ему открыть начальную школу для казахских детей в г. Тургае. Здесь его назначили учителем русского языка. Воодушевленный просветительскими идеями, он разъезжал по аулам, разъясняя населению значение и необходимость получения светского образования. Для открытия школы он организовал сбор финансовых средств. Одним из первых внес деньги сам народный просветитель. Его деятельность встретила некоторое противодействие со стороны консервативной части общества. Его начали обвинять в вероотступничестве. На эти выпады он отвечал гневными стихами:
Среди сородичей моих нашлись враги.
Их зависть заедает, и вот они меня порочат;
Клевещут — будто я крещусь и крест ношу;
Болтают всякий вздор.
В 1864 году состоялось торжественное открытие школы с интернатом для казахских детей. В результате агитационной работы на учебу записались 16 мальчиков. Позже численность учащихся школы стала увеличиваться. Разъяснительная работа, проведенная им, начала давать свои плоды. Народный просветитель по этому поводу восторженно писал: «Как голодный волк за барана, взялся я горячо за учение детей... мальчики эти за каких-то трех месяцев выучились читать и писать».
В 1879 году И. Алтынсарин получил назначение на должность инспектора школ Тургайской области. По его инициативе и при непосредственном участии была создана сеть учебных заведений. В частности, во всех уездных городах области стали появляться училища. С этой целью он снова разъезжал по аулам Тургайской области. Он собрал среди населения необходимые средства, а затем открыл двухклассные русско-киргизские (казахские) училища в Иргизском, Николаевском, Тургайском и Илецком уездах. Укомплектовал их учителями и учениками. Особое значение он придавал оборудованию школ, созданию при них небольших библиотек.
С именем И. Алтынсарина связано и начало женского образования в Казахстане. Выдающийся просветитель открыл несколько школ для девушек с интернатами (общежитиями). Школу он считал ключом к подлинному просвещению народа.
