A região começou a ser povoada no final do século XVIII, com a abertura de uma trilha que levava às minas de ouro de Cuiabá e Goiás. Saindo de Piracicaba, passando por Rio Claro, subindo as escarpas das encostas do planalto, passando pelos campos, matas e cerrados de Araraquara, levas de povoadores se estabeleceram na região. A história de São Carlos tem início em 1831, com a demarcação da Sesmaria do Pinhal. Na data da fundação, 4 de novembro de 1857, a povoação era composta por algumas pequenas casas ao redor da capela e seus moradores eram, em sua maior parte, herdeiros da família Arruda Botelho, primeiros proprietários das terras da Sesmaria do Pinhal.
São Carlos é elevada à categoria de vila em 1865 e a Câmara Municipal é empossada. Em 1874 a vila contava com 6.897 habitantes e destacava-se na região pelo seu rápido crescimento e importância regional. Em 1880, passa de vila a cidade e em 1886, com uma população de 16.104 habitantes, já possui ampla infra-estrutura urbana.
Entre 1831 e 1857 são formadas as fazendas de café pioneiras, marcando o início da primeira atividade econômica de maior expressão em São Carlos. A lavoura cafeeira chega à Fazenda Pinhal em 1840 e se espalha por todas as terras férteis no município, tornando-se o principal produto de exportação.
A cidade surge no contexto da expansão da lavoura cafeeira, que é marcante nas últimas décadas do século XIX e nas duas primeiras do século XX. A chegada da ferrovia em 1884 propiciou um sistema eficiente para escoar a produção para o porto de Santos e deu um grande impulso ao desenvolvimento da economia da região. A ferrovia também contribuiu para que a área central da cidade se firmasse como local de destaque político e econômico.
Nas últimas décadas do século XIX ocorreu o fenômeno social que mais influência deixou na região central do Estado de São Paulo: a imigração. São Carlos recebeu imigrantes alemães trazidos pelo Conde do Pinhal em 1876, e de 1880 a 1904, o município foi um dos principais pólos atrativos de imigrantes do Estado de São Paulo. A grande maioria deles era originária das regiões setentrionais da Itália. Os imigrantes vinham para trabalhar nas lavouras de café e, graças às suas habilidades, atuavam também na manufatura e no comércio.
No início do século XX existiam inúmeras sociedades culturais e de ajuda mútua que desenvolviam atividades sociais com a finalidade de promover a educação, destacando-se a Vittorio Emanuele, de 1900, e a Dante Alighieri, de 1902. A presença de imigrantes italianos era tão grande que durante as primeiras décadas do século XX, o governo italiano manteve um vice-consulado em São Carlos. A crise cafeeira de 1929 levou os imigrantes a deixarem a atividade rural, passando a trabalhar no centro urbano como operários nas oficinas, no comércio, na prestação de serviços, na fábrica de artefatos de madeira e de cerâmica e na construção civil.
Os fazendeiros aplicavam os lucros obtidos com o café na constituição de várias empresas em São Carlos: bancos, companhias de luz elétrica, de bondes, telefones, sistemas de água e esgoto, teatro, hospitais e escolas, fortalecendo a infra-estrutura urbana e criando condições para a industrialização. Com os conhecimentos dos imigrantes e com a chegada de migrantes de outros centros urbanos nas décadas de 30 e 40, a indústria consolida-se como a principal atividade econômica de São Carlos, que chega à década de 50 como centro manufatureiro diferenciado, com relevante expressão industrial entre as cidades do interior do Estado de São Paulo.
O setor industrial desenvolveu-se também a partir de oficinas que serviam às plantações de café. A fabricação de máquinas de beneficiamento, sapatos, adubos, ferragens, móveis, macarrão e charutos, assim como as alfaiatarias, cervejarias, fundições, serrarias, tecelagem, uma indústria de lápis e olarias marcam a economia de São Carlos nos anos 30. Nas décadas de 50 e 60 a indústria solidifica-se com a instalação de fábricas de geladeiras, compressores, tratores e uma grande quantidade de empresas pequenas e médias, fornecedoras de produtos e serviços.
Na segunda metade do século XX, a cidade recebe um grande impulso para o seu desenvolvimento tecnológico e educacional com a implantação, em abril de 1953, da Escola de Engenharia de São Carlos, vinculada à Universidade de São Paulo (USP), e, na década de 70, com a criação da Universidade Federal de São Carlos (UFSCar).