乐趣区

数据挖掘复习笔记01概述

Chp1

DM, Data Mining

  • 为什么需要 Data Mining

    信息技术的发展,计算机 — 存储和处理信息,网络 — 传播信息,物联网 — 收集信息,移动互联网 — 更加便捷地收集和传播信息

    问题:数据总量爆炸式增加,如何从中提取真正有价值的信息

    产生了新的领域 (DM)

  • 什么是 DM

    Data Mining, 数据挖掘

    Knowledge Discovery, 知识发现

    Machine Learning, 机器学习

    Knowledge Discovery in Database, KDD

  • 理解 DM

    KDD, 从数据库获取数据 — 数据清洗 — 放入数据仓库 (warehouse)— 选出可能相关的感兴趣的信息 — 数据挖掘 — 评估 — 知识

    BI, Business Intelligence, 商业智能

    ML, 机器学习

  • 从 4 个不同的角度理解 DM

    • 待挖掘数据的种类: 文本,图像,视频,音频,…

    • 挖掘方法: 统计学,机器学习,可视化,…

    • 挖掘出的知识: 特征,类别,趋势,区别,关联,…

    • 应用领域: 互联网,销售,银行,股票,生物,…

  • DM 和 ML 的区别

    DM: 发现规律,填补单个空缺

    ML: 预测一整行

  • DM 的历史

  • DM 面临的主要挑战

    用户交互

    效率和可扩展性

    数据类型的多样性

    挖掘方法和技术

    社会问题

Big Data, 大数据

  • 定义: 4V

    Volume, 数据体量巨大,PB 级别

    Velocity, 要求处理速度快,1 秒定律,可从各种类型的数据中快速获得高价值的信息

    Variety, 数据类型繁多

    Value, 只要合理利用数据并对其进行正确、准确的分析,将会带来很高的价值回报

  • 应用

    Google Flu Trends Prediction

    Promotion of pregnant women products in Target supermarket

退出移动版