Thời đại Heian sau đó (794-1185), nước Nhật bước vào một thời kỳ văn hoá khá rực rỡ. Xã hội nhiều giai cấp trong đó giới võ sĩ (samurai), giới tăng nhân (warrior monks) trở thành những lực lượng quan trọng được triều đình thuê mướn để bảo vệ lãnh thổ. Thanh kiếm đã không chỉ là một võ khí mà đã trở thành một tác phẩm, vừa thanh tú vừa mỹ thuật.
Người ta cũng bắt đầu khắc tên và nơi chế tạo trên chuôi kiếm, hiệp sĩ cũng mang theo những thanh kiếm ngắn hơn để thay đổi. Ngoài kiếm nhiều loại chiến cụ khác cũng phát triển điển hình là cung tên, giáp trụ và nghệ thuật binh bị cũng đạt một tầm vóc mới.
Người Nhật tìm ra cách đúc kiếm nhiều lớp bằng cách rèn dài và mỏng phôi sắt sau đó cắt đôi, nung lên rồi chập hai nửa lại tiếp tục rèn, tạo được những vân thớ (jihada) khác lạ được gọi dưới những tên như itame, masame, mokume, ayasugi (long tuyền đối nguyệt), khiến những lưỡi kiếm cấu thành từ rất nhiều lớp thép, vừa dẻo dai vừa cứng rắn. Những vân đó có khi giống như mắt gỗ nhưng cũng có khi uốn lượn như làn sóng. Thanh kiếm không còn là một vũ khí mà đã thành một tác phẩm mỹ thuật.