Начните с замены на отношение has_many: through, если вы используете has_and_belongs_to_many, так что вы сможете получить доступ к модели отношения, т.е.: ArticleUser.
Затем сначала проверьте модель отношения ArticleUser:
validates_uniqueness_of :user_id, scope => :article_id
Если вы хотите узнать, проголосовал ли пользователь за статью, вы можете использовать что-то вроде:
ArticleUser.exists?(:user_id => @user.id, :article_id => @article.id)
или напрямую используя отношение has_many ...