Foi mais ou menos nesta época que os habitantes do arquipélago tornaram-se peritos na modelagem e cozedura do barro. A técnica de levar a cozer ao fogo os vasos de barro implicou uma melhoria nas condições de vida, possibilitando o cozinhar dos alimentos, um melhor armazenamento e o transporte de água durante os deslocamentos.
O período Jomon, que vai desde 10.000 anos a.C. até 300 anos a.C., toma o nome desta cerâmica tão característica. Jomon significa "decorações cordiformes", pois muitas das peças eram decoradas através da impressão de cordas ou de ramos no barro ainda mole ou com bambu.A maior parte dos conhecimentos que temos da sociedade Jomon, incluindo a sua cerâmica, vem-nos das escavações feitas em lixeiras, concheiros, estrumeiras e em fossos, todos eles contendo vestígios da alimentação, da vida cotidiana e dos rituais de inumação. Os homens do período Jomon se estabeleceram nas zonas costeiras e dedicavam-se à caça e à criação de animais, alimentavam-se de nozes, frutos, raízes, carne, peixe e marisco.
Com o clima quente do Jomon Médio surgiram árvores de folha caduca e a maior parte dos locais de habitação do período Jomon situava-se nas zonas montanhosas do centro do Japão. Por volta de 2.500 a.C., com a alteração do clima, invernos mais frios e mais chuvosos, as condições de vidas nas terras altas tornaram-se muito duras e o povo Jomon voltou para as zonas costeiras.
Muitas povoações Jomon eram semi-sedentárias, formadas por pequenos aglomerados de cabanas com teto de colmo semienterradas no chão, cada casa abrigava cinco ou seis pessoas. No interior, o centro era o lugar para o fogo. Em algumas das comunidades do período Jomon Médio Inferior havia casas escavadas no solo muito maiores do que as da era anterior. Devem ter servido para a realização de rituais ou para a habitação dos chefes das aldeias. Provavelmente muitas das comunidades tentaram ser auto-suficientes, mas há algumas indicações de trocas, quer a nível local, quer a nível regional. Tem havido uma considerável polêmica quanto ao fato do povo do Jomon Médio Inferior ter se dedicado à agricultura. A maior parte do investigadores é da opinião de que o homem do período Jomon sabia aonde encontrar plantas raras, como extrair tanino das plantas, bem como armazenar comida e conservá-la em sal e por isso não desenvolveu a cultura de cereais.
Enquanto alguns linguistas detectaram influências do sudoeste asiático na língua japonesa, prevalece a opinião de que no japonês existem raízes do coreano e de outras línguas altaicas. Consta que o que eventualmente se veio a formar como japonês surgiu no período Jomon.
Foram encontradas habitações do período Jomon em Hokkaido, a região do povo ainu. Os ainu são um povo caucasiano do norte da ásia que entrou nas ilhas em épocas muito remotas.
Passaram por Hokkaido até o nordeste do Japão, onde ainda existem muitos nomes em ainu. Algumas das palavras em ainu apresentam uma grande semelhança com o japonês. Nos séculos seguintes, os ainu, os ezo ou os emishi, tal como eram conhecidos, foram conduzidos para o norte pela expansão das várias tribos de diferentes raças em Honshu. A sua cultura sobreviveu até o século XX, mas tem sofrido grande pressão das correntes de imigrantes de Honshu no século XIX e está agora sendo rapidamente absorvida. No entanto, ainda se realizam os festivais ainu do urso e do salmão, mas atualmente existem muito poucos ainu de sangue puro.
