《野蛮人柯南》是部有关一位年轻野蛮人寻求为自己惨死父母报仇的电影，时代背景处于现代文明崛起前数千年的一个虚构的野蛮年代。电影开场时转述了弗里德里希·尼采的名言：“那些没有杀死我们的将让我们更强大。接下来黑色背景的幕后开始有画外音解说，表明电影讲述的是柯南起源的故事。一阵鼓点和号角声伴随着一把利剑的锻造，之后镜头转至一座山顶，铸剑师告诉他年幼的儿子柯南钢铁的神秘谜语，金属对他们辛梅里安人民的重要性。接下来辛梅里安人的村庄遭到了图尔萨·杜姆领头一批武士的大屠杀。柯南的父亲被狗活活咬死，他的剑被杜姆抢去将柯南的母亲斩首。所有的孩童成为奴隶，柯南被链条锁在一个叫“疼痛之轮”的大磨上，连续多年推动这个巨大的磨石令他长出强健的肌肉，他被卖给了一位新主人训练成角斗士，经过多场胜利后，柯南终于被释放。重获自由的他因被几条野狗追逐而逃进一个古墓躲避。在古墓里他看到一位将军的遗体和宝剑，于是取了宝剑后重新上路。漫游世界的柯南遇上了一位年轻的女巫，并与她做爱来换取指引。然而中途女巫突然变成了一个魔鬼，柯南只能将其击退。柯南还在路上认识了苏伯泰，他是位神箭手，但也是个小偷。
根据女巫的建议，柯南与苏伯泰前往扎莫拉的沙迪扎尔寻找杜姆，他们遇到了一位叫瓦莱里娅的女强盗，三人潜入杜姆崇拜蛇类的邪教圣殿“蛇塔”中，偷走了宝石做成的巨大蛇眼和其它贵重物品，柯南和苏伯泰还与一条大蛇展开大战并将之杀死。带着战利品逃脱后，三人庆祝并全部醉倒。城市的警卫抓住了他们并带到国王奥斯瑞克眼前，国王要求他们前去救出自己加入了杜姆邪教的女儿，苏伯泰和瓦莱里娅不愿意淌这趟浑水，而柯南则心中怀着对杜姆的血海深仇独自上路前往对方的庙宇。
伪装成一个牧师的柯南潜入了庙宇，但被发现和抓获后受尽折磨。杜姆向他鼓吹自己强大的力量，并通过说服一个女孩自杀来进行演示，然后他下令将柯南钉到“灾祸之树”的十字架上。等到苏伯泰发现他时，柯南已经濒临死亡。苏伯泰把他带到柯南之前取得宝剑的古墓，那里住着一位巫师。巫师招唤鬼灵来治愈柯南，并警告两人将会为此“付出沉重的代价”，瓦莱里娅接受了这个条件。这些鬼灵还试图拐走柯南，但在瓦莱里娅和苏伯泰将其击退后柯南恢复了健康。这次，苏伯泰和瓦莱里娅同意了国王的要求并与柯南一起潜入杜姆的庙宇，由于邪教正沉溺于一场同类相食的狂欢中，三人发起进攻并带着公主逃离，但瓦莱里娅由于被杜姆击中而身受重伤，正像之前巫师预言的“惨重代价”一样，她死在了柯南的怀里并在古墓火化。柯南、苏伯泰和巫师于是准备向杜姆展开决战，他们利用诱捕战术和地形杀死了杜姆的卫兵，战斗中瓦莱里娅还以一位女武神的形象出现又一次救了柯南的性命。柯南还找到了父亲的剑，只是剑身已经折断。失去卫兵保护的杜姆朝公主放出毒蛇攻击，被苏伯泰挡下后他逃出了庙宇。
柯南偷偷回到庙宇，杜姆正站在楼梯顶部向众邪教成员演讲。看到柯南冲到跟前时杜姆试图催眠对方，但柯南成功抵御了催眠，并用自己父亲的剑砍下了敌人的头，然后柯南放火烧掉了庙宇，再将公主送回了国王的城堡。电影最后一个镜头显示他已经成了一位年老的国王，背景的解说则表示他是在另外一个故事中走上了王位。
