Para criar um novo tipo de relacionamento, utilize RAMSession.createRelationshipType(String relName, String reverseName). Apenas um administrador de repositório pode criar tipos de relacionamento.
//Criar um novo tipo de relacionamento junto com seu tipo reverso
RAMRelationshipType newRelationshipType = session.createRelationshipType("New Relationship Type", "New Reverse Relationship Type");
session.put(newRelationshipType, new NullProgressMonitor());