查找相似图像的算法


83

我需要一种算法,该算法可以确定两个图像是否“相似”并识别颜色,亮度,形状等的相似模式。我可能需要一些关于人脑对图像进行“分类”的参数。..

我看过基于hausdorff的匹配,但这似乎主要是为了匹配变形的对象和形状图案。


在另一个类似的问题中也有一些很好的答案:stackoverflow.com/questions/25977/…–
空白

2
很多“可能”和“力量”。任何人尝试所有这些建议,然后知道什么是最好的吗?
约翰·克特吉克

Answers:


60

通过使用小波变换将图像分解成签名,我做了类似的事情。

我的方法是从每个转换的通道中选取最重要的n个系数,并记录它们的位置。这是通过根据abs(power)对(power,location)元组的列表进行排序来完成的。相似的图像将具有相似之处,因为它们在相同位置具有显着的系数。

我发现最好将图像转换为YUV格式,这样可以有效地使您在形状(Y通道)和颜色(UV通道)上具有相似的权重。

您可以在mactorii中找到上述的实现,但是不幸的是,我的工作还没有达到我应该做的那么多:-)

我的一些朋友使用的另一种方法取得了令人惊讶的良好效果,它只是简单地将图像调整为4x4像素大小并存储您的签名。通过使用相应的像素计算两个图像之间的曼哈顿距离,可以说出两个图像的相似程度。我没有关于它们如何执行调整大小的详细信息,因此您可能必须尝试使用​​可用于该任务的各种算法来找到合适的算法。


7
将大小调整为4x4方法是一个很棒的主意(不是您的方法也不是很好),但是第一个方法更简单。
Alix Axel

@freespace,能否请您解释一下“使用相应的像素计算两个图像之间的曼哈顿距离”
Ambika,2016年

1
@Ambika:将每个像素的颜色视为长度3的向量,并计算要比较的图像中相应像素之间的曼哈顿距离。这给了您4个曼哈顿距离。如何从中得出单个度量标准取决于您。最明显的是将它们加在一起。
freespace

45

pHash可能会让您感兴趣。

感知哈希 音频,视频或图像文件的指纹,该指纹在数学上基于其中包含的音频或视觉内容。与依赖于输入中的小变化导致输出中的急剧变化的雪崩效应的加密散列函数不同,如果输入在视觉上或听觉上相似,则感知哈希彼此“接近”。


8
刚刚检查了pHash的网站。他们当前在其网站上具有此功能,该功能允许您上传两个图像,并告诉您它们是否相似。我尝试了大约10张相似的图像和10张不相似的图像。不幸的是,成功率并不是那么令人印象深刻。
rodrigo-silveira 2012年

2
pHash实际上非常严格,您可能要使用“ ahash”或平均哈希,但通常不太严格。您可以在github.com/JohannesBuchner/imagehash/blob/master/…处
Rohit

13

我已经使用SIFT在不同的图像中重新检测到同一物体。它确实功能强大,但相当复杂,可能会过大。如果假定图像非常相似,则基于两个图像之间的差异的一些简单参数可以告诉您很多信息。一些指针:

  • 归一化图像,即通过计算两个图像的平均亮度并根据比例将最亮的比例缩小(以避免最高级别的削波)来使两个图像的平均亮度相同(特别是如果您对形状感兴趣而不是对形状感兴趣)颜色。
  • 每个通道上标准化图像的色差总和。
  • 在图像中找到边缘,并测量两个图像中边缘像素之间的距离。(形状)
  • 将图像划分为一组离散区域,然后比较每个区域的平均颜色。
  • 在一个(或一组)级别上将图像阈值化,并计算生成的黑白图像有所不同的像素数。

您能否指向使用类似筛子特征来计算图像相似度的代码?
mrgloom 2012年

抱歉,我确定有公开的代码,但是我不知道。此站点上有一些示例。例如这里:stackoverflow.com/questions/5461148/...
jilles德维特

.Net的Accord框架(Accord-framework.net)具有一些出色的类,可用于SURF,BagOfVisualWords,Harris Corner Detection等,其中包含各种内核和聚类算法。
dynamichael

6

我的实验室也需要解决此问题,因此我们使用了Tensorflow。这是用于可视化图像相似性的完整应用程序实现。

有关将图像矢量化以进行相似度计算的教程,请查看此页面。这是Python(同样,请参见该帖子以获取完整的工作流程):

from __future__ import absolute_import, division, print_function

"""

This is a modification of the classify_images.py
script in Tensorflow. The original script produces
string labels for input images (e.g. you input a picture
of a cat and the script returns the string "cat"); this
modification reads in a directory of images and 
generates a vector representation of the image using
the penultimate layer of neural network weights.

Usage: python classify_images.py "../image_dir/*.jpg"

"""

# Copyright 2015 The TensorFlow Authors. All Rights Reserved.
#
# Licensed under the Apache License, Version 2.0 (the "License");
# you may not use this file except in compliance with the License.
# You may obtain a copy of the License at
#
#     http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.
# ==============================================================================

"""Simple image classification with Inception.

Run image classification with Inception trained on ImageNet 2012 Challenge data
set.

This program creates a graph from a saved GraphDef protocol buffer,
and runs inference on an input JPEG image. It outputs human readable
strings of the top 5 predictions along with their probabilities.

Change the --image_file argument to any jpg image to compute a
classification of that image.

Please see the tutorial and website for a detailed description of how
to use this script to perform image recognition.

https://tensorflow.org/tutorials/image_recognition/
"""

import os.path
import re
import sys
import tarfile
import glob
import json
import psutil
from collections import defaultdict
import numpy as np
from six.moves import urllib
import tensorflow as tf

FLAGS = tf.app.flags.FLAGS

# classify_image_graph_def.pb:
#   Binary representation of the GraphDef protocol buffer.
# imagenet_synset_to_human_label_map.txt:
#   Map from synset ID to a human readable string.
# imagenet_2012_challenge_label_map_proto.pbtxt:
#   Text representation of a protocol buffer mapping a label to synset ID.
tf.app.flags.DEFINE_string(
    'model_dir', '/tmp/imagenet',
    """Path to classify_image_graph_def.pb, """
    """imagenet_synset_to_human_label_map.txt, and """
    """imagenet_2012_challenge_label_map_proto.pbtxt.""")
tf.app.flags.DEFINE_string('image_file', '',
                           """Absolute path to image file.""")
tf.app.flags.DEFINE_integer('num_top_predictions', 5,
                            """Display this many predictions.""")

# pylint: disable=line-too-long
DATA_URL = 'http://download.tensorflow.org/models/image/imagenet/inception-2015-12-05.tgz'
# pylint: enable=line-too-long


class NodeLookup(object):
  """Converts integer node ID's to human readable labels."""

  def __init__(self,
               label_lookup_path=None,
               uid_lookup_path=None):
    if not label_lookup_path:
      label_lookup_path = os.path.join(
          FLAGS.model_dir, 'imagenet_2012_challenge_label_map_proto.pbtxt')
    if not uid_lookup_path:
      uid_lookup_path = os.path.join(
          FLAGS.model_dir, 'imagenet_synset_to_human_label_map.txt')
    self.node_lookup = self.load(label_lookup_path, uid_lookup_path)

  def load(self, label_lookup_path, uid_lookup_path):
    """Loads a human readable English name for each softmax node.

    Args:
      label_lookup_path: string UID to integer node ID.
      uid_lookup_path: string UID to human-readable string.

    Returns:
      dict from integer node ID to human-readable string.
    """
    if not tf.gfile.Exists(uid_lookup_path):
      tf.logging.fatal('File does not exist %s', uid_lookup_path)
    if not tf.gfile.Exists(label_lookup_path):
      tf.logging.fatal('File does not exist %s', label_lookup_path)

    # Loads mapping from string UID to human-readable string
    proto_as_ascii_lines = tf.gfile.GFile(uid_lookup_path).readlines()
    uid_to_human = {}
    p = re.compile(r'[n\d]*[ \S,]*')
    for line in proto_as_ascii_lines:
      parsed_items = p.findall(line)
      uid = parsed_items[0]
      human_string = parsed_items[2]
      uid_to_human[uid] = human_string

    # Loads mapping from string UID to integer node ID.
    node_id_to_uid = {}
    proto_as_ascii = tf.gfile.GFile(label_lookup_path).readlines()
    for line in proto_as_ascii:
      if line.startswith('  target_class:'):
        target_class = int(line.split(': ')[1])
      if line.startswith('  target_class_string:'):
        target_class_string = line.split(': ')[1]
        node_id_to_uid[target_class] = target_class_string[1:-2]

    # Loads the final mapping of integer node ID to human-readable string
    node_id_to_name = {}
    for key, val in node_id_to_uid.items():
      if val not in uid_to_human:
        tf.logging.fatal('Failed to locate: %s', val)
      name = uid_to_human[val]
      node_id_to_name[key] = name

    return node_id_to_name

  def id_to_string(self, node_id):
    if node_id not in self.node_lookup:
      return ''
    return self.node_lookup[node_id]


def create_graph():
  """Creates a graph from saved GraphDef file and returns a saver."""
  # Creates graph from saved graph_def.pb.
  with tf.gfile.FastGFile(os.path.join(
      FLAGS.model_dir, 'classify_image_graph_def.pb'), 'rb') as f:
    graph_def = tf.GraphDef()
    graph_def.ParseFromString(f.read())
    _ = tf.import_graph_def(graph_def, name='')


def run_inference_on_images(image_list, output_dir):
  """Runs inference on an image list.

  Args:
    image_list: a list of images.
    output_dir: the directory in which image vectors will be saved

  Returns:
    image_to_labels: a dictionary with image file keys and predicted
      text label values
  """
  image_to_labels = defaultdict(list)

  create_graph()

  with tf.Session() as sess:
    # Some useful tensors:
    # 'softmax:0': A tensor containing the normalized prediction across
    #   1000 labels.
    # 'pool_3:0': A tensor containing the next-to-last layer containing 2048
    #   float description of the image.
    # 'DecodeJpeg/contents:0': A tensor containing a string providing JPEG
    #   encoding of the image.
    # Runs the softmax tensor by feeding the image_data as input to the graph.
    softmax_tensor = sess.graph.get_tensor_by_name('softmax:0')

    for image_index, image in enumerate(image_list):
      try:
        print("parsing", image_index, image, "\n")
        if not tf.gfile.Exists(image):
          tf.logging.fatal('File does not exist %s', image)

        with tf.gfile.FastGFile(image, 'rb') as f:
          image_data =  f.read()

          predictions = sess.run(softmax_tensor,
                          {'DecodeJpeg/contents:0': image_data})

          predictions = np.squeeze(predictions)

          ###
          # Get penultimate layer weights
          ###

          feature_tensor = sess.graph.get_tensor_by_name('pool_3:0')
          feature_set = sess.run(feature_tensor,
                          {'DecodeJpeg/contents:0': image_data})
          feature_vector = np.squeeze(feature_set)        
          outfile_name = os.path.basename(image) + ".npz"
          out_path = os.path.join(output_dir, outfile_name)
          np.savetxt(out_path, feature_vector, delimiter=',')

          # Creates node ID --> English string lookup.
          node_lookup = NodeLookup()

          top_k = predictions.argsort()[-FLAGS.num_top_predictions:][::-1]
          for node_id in top_k:
            human_string = node_lookup.id_to_string(node_id)
            score = predictions[node_id]
            print("results for", image)
            print('%s (score = %.5f)' % (human_string, score))
            print("\n")

            image_to_labels[image].append(
              {
                "labels": human_string,
                "score": str(score)
              }
            )

        # close the open file handlers
        proc = psutil.Process()
        open_files = proc.open_files()

        for open_file in open_files:
          file_handler = getattr(open_file, "fd")
          os.close(file_handler)
      except:
        print('could not process image index',image_index,'image', image)

  return image_to_labels


def maybe_download_and_extract():
  """Download and extract model tar file."""
  dest_directory = FLAGS.model_dir
  if not os.path.exists(dest_directory):
    os.makedirs(dest_directory)
  filename = DATA_URL.split('/')[-1]
  filepath = os.path.join(dest_directory, filename)
  if not os.path.exists(filepath):
    def _progress(count, block_size, total_size):
      sys.stdout.write('\r>> Downloading %s %.1f%%' % (
          filename, float(count * block_size) / float(total_size) * 100.0))
      sys.stdout.flush()
    filepath, _ = urllib.request.urlretrieve(DATA_URL, filepath, _progress)
    print()
    statinfo = os.stat(filepath)
    print('Succesfully downloaded', filename, statinfo.st_size, 'bytes.')
  tarfile.open(filepath, 'r:gz').extractall(dest_directory)


def main(_):
  maybe_download_and_extract()
  if len(sys.argv) < 2:
    print("please provide a glob path to one or more images, e.g.")
    print("python classify_image_modified.py '../cats/*.jpg'")
    sys.exit()

  else:
    output_dir = "image_vectors"
    if not os.path.exists(output_dir):
      os.makedirs(output_dir)

    images = glob.glob(sys.argv[1])
    image_to_labels = run_inference_on_images(images, output_dir)

    with open("image_to_labels.json", "w") as img_to_labels_out:
      json.dump(image_to_labels, img_to_labels_out)

    print("all done")
if __name__ == '__main__':
  tf.app.run()

5

您可以使用感知图像差异

这是一个命令行实用程序,它使用感知指标比较两个图像。也就是说,它使用人类视觉系统的计算模型来确定两个图像在视觉上是否不同,因此忽略了像素的微小变化。此外,它还大大减少了由随机数生成,操作系统或机器体系结构差异引起的误报数量。


4

这是一个难题!这取决于您需要的精确度,并且取决于您正在处理哪种类型的图像。您可以使用直方图比较颜色,但是显然没有考虑这些颜色在图像(即形状)中的空间分布。边缘检测后再进行某种类型的分割(即挑选形状)可以提供与另一幅图像匹配的图案。通过将图像视为像素值矩阵,然后比较这些矩阵,可以使用同余矩阵来比较纹理。有一些关于图像匹配和机器视觉的好书-在亚马逊上搜索会发现一些书。

希望这可以帮助!




3

计算急剧缩小的版本(例如:6x6像素)的像素颜色值的差的平方和很好。相同的图像产生0,相似的图像产生较小的数字,不同的图像产生较大的图像。

上面的其他人首先想到YUV的想法听起来很有趣-尽管我的想法很好,但我希望将我的图像计算为“不同”,从而即使从色盲观察者的角度来看也能得出正确的结果。


2

这听起来像是视觉问题。您可能需要研究自适应增强以及Burns Line Extraction算法。这两个概念应有助于解决此问题。如果您不熟悉视觉算法,那么边缘检测甚至是一个更简单的起点,因为它说明了基础知识。

至于分类参数:

  • 调色板和位置(渐变计算,颜色直方图)
  • 包含的形状(Ada。增强/训练以检测形状)

2

根据所需的精确度,您可以简单地将图像分解为nxn像素块并进行分析。如果在第一块中获得不同的结果,您将无法停止处理,从而可以提高性能。

为了分析正方形,您可以例如获取颜色值的总和。



1

您可以在两个图像之间执行某种块匹配运动估计,并测量残差和运动矢量成本的总和(就像在视频编码器中那样)。这将补偿运动;对于加分,请进行仿射变换运动估计(补偿缩放和拉伸等)。您也可以做重叠的块或光流。


1

首先,您可以尝试使用颜色直方图。但是,您确实需要缩小问题范围。通用图像匹配是一个非常困难的问题。


1

很抱歉在讨论后期加入。

我们甚至可以使用ORB方法来检测两个图像之间的相似特征点。以下链接给出了Python中ORB的直接实现

http://scikit-image.org/docs/dev/auto_examples/plot_orb.html

甚至openCV也可以直接实现ORB。如果您需要更多信息,请遵循下面给出的研究文章。

https://www.researchgate.net/publication/292157133_Image_Matching_Using_SIFT_SURF_BRIEF_and_ORB_Performance_Comparison_for_Distorted_Images


0

在另一个线程上有一些很好的答案,但是我想知道涉及频谱分析的东西是否可行?即,将图像分解为相位和幅度信息,然后进行比较。这样可以避免某些与裁剪,转换和强度差异有关的问题。无论如何,这只是我的猜测,因为这似乎是一个有趣的问题。如果您搜索了http://scholar.google.com,我相信您可以针对此提出一些论文。


光谱分析是通过傅立叶变换进行的,因此没有颜色直方图,因为您可以从虚部和实部这两个部分重建图像。(不知道它是否会工作,只是让您知道它不在该类别中)。
nlucaroni

是的,傅里叶变换是我的意思。
Neuroguy123
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.